Machine Learning: Twitter bestätigt Vorurteile in seiner Bildauswahl

Nutzer zeigten Vorurteile in Twitters Bildzuschnitt. Das Unternehmen hat das nun untersucht und reduziert den Einsatz deutlich.

Artikel veröffentlicht am ,
Twitter will Bilder deutlich weniger automatisch zuschneiden als bisher.
Twitter will Bilder deutlich weniger automatisch zuschneiden als bisher. (Bild: Stephen Lam/File Photo/Reuters)

Nach Kritik und Experimenten mit dem automatischen Bildzuschnitt in seinem Dienst hat Twitter den zugrundeliegenden Machine-Learning-Algorithmus untersucht und kommt zu dem Ergebnis: Die Aufgabe der Auswahl eines Ausschnitts sollte besser "von den Leuten, die unsere Produkten nutzen", durchgeführt werden als von der automatisierten Technik.

Stellenmarkt
  1. Anwendungsbetreuer ITWO SITE (m/w/d)
    Wesemann GmbH, Syke
  2. Mitarbeiter für Konzeption und Qualitätssicherung (m/w/d)
    ADG Apotheken-Dienstleistungsgesellschaft mbH, Fürth, Mannheim
Detailsuche

Der Grund dafür ist, dass der für die Bildauswahl genutzte Algorithmus vorurteilsbehaftet arbeitet. Bei den von Nutzern im vergangenen Herbst dazu zahlreich veröffentlichten Testbildern zeigte sich schon, dass die Bildauswahl offenbar Gesichter Weißer Menschen bevorzugt. Der von Twitter genutzte Machine-Learning-Algorithmus steht damit in einer Reihe weiterer ähnlicher Fehler und Probleme, die in der Vergangenheit immer wieder als rassistisch kritisiert wurden.

Vorurteile bestätigt

Genau das bestätigt nun auch die Untersuchung von Twitter selbst. Demnach bevorzugte die Bildauswahl Frauen gegenüber Männern und Weiße Menschen gegenüber Schwarzen Menschen. Den als männlichen Blick (Male Gaze) beschriebenen Eindruck, also dass etwa der Brustbereich oder die Beine von Frauen für den Bildzuschnitt bevorzugt würden, konnte das Twitter-Team dagegen nicht bestätigen. Die Auswahl habe hier nicht auf physischen Eigenschaften der Menschen beruht, sondern etwa auf Zahlen auf Sporttrikots.

Zuletzt hatte der Anbieter 2018 sein Modell zum Zuschnitt der Bilder umgestellt. Dieses soll hervorspringende Teile eines Bildes bevorzugen, was wiederum auf einer Eye-Tracking-Studie mit nur sehr wenigen Teilnehmern und Bildern zu basieren scheint. Das darauf trainierte Machine-Learning-Modell reproduziert also offenbar die Vorurteile der Menschen in der Ausgangsstudie. Zumindest ist die Bildauswahl eben nicht fair.

Twitter schreibt dazu: "Selbst wenn der Salienz-Algorithmus so angepasst würde, dass er die perfekte Gleichstellung zwischen Race und Geschlecht widerspiegelt, sind wir besorgt über den Repräsentationsschaden des automatisierten Algorithmus, wenn Personen sich nicht auf der Plattform so darstellen dürfen, wie sie es wünschen". Ebenso beinhalte die Nutzung von Salienz auch andere mögliche Nachteile, etwa eine Insensibilität in Bezug auf kulturelle Nuancen.

Tolle Technik-Deals und viele weitere Schnäppchen

Die Lösung für das beschriebene Problem ist bei Twitter nun, soweit es geht, auf die die beschriebene automatische Bildauswahl zu verzichten. Nach einigen Experimenten hat der Anbieter deshalb vor einigen Wochen Änderungen ausgerollt, die Bilder in ihrer tatsächlichen Größe darstellt, sofern diese üblichen Bildformaten entspricht. Ebenso wird nun beim Erstellen eines Tweets das Bild so angezeigt, wie es letztlich auch nach der Veröffentlichung zu sehen ist.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Star Trek
Playmobil bringt 1 Meter langes Enterprise-Spielset

Star Treks klassische Enterprise NCC-1701 kommt mit den Hauptcharakteren, Phasern und Tribbles sowie einem Standfuß und einer Deckenhalterung.

Star Trek: Playmobil bringt 1 Meter langes Enterprise-Spielset
Artikel
  1. Materialforschung: Leichtes Schallschutzmaterial für leisere Luftfahrt
    Materialforschung
    Leichtes Schallschutzmaterial für leisere Luftfahrt

    Das Material wiegt nicht einmal ein Zehntel so viel wie heute eingesetzter Schaum zur Schalldämmung. Einsatzmöglichkeiten sehen die Erfinder vor allem in der Luftfahrt.

  2. Akkutechnik und E-Mobilität: Natrium-Ionen-Akkus werden echte Lithium-Alternative
    Akkutechnik und E-Mobilität
    Natrium-Ionen-Akkus werden echte Lithium-Alternative

    Faradion und der Tesla-Zulieferer CATL produzieren erste Natrium-Ionen-Akkus mit der Energiedichte von LFP. Sie sind kälteresistenter, sicherer und lithiumfrei.
    Von Frank Wunderlich-Pfeiffer

  3. World of Warcraft, Pokémon, Bitcoin: Moba Pokémon Unite startet schon bald
    World of Warcraft, Pokémon, Bitcoin
    Moba Pokémon Unite startet schon bald

    Sonst noch was? Was am 18. Juni 2021 neben den großen Meldungen sonst noch passiert ist, in aller Kürze.

chefin 21. Mai 2021 / Themenstart

Wenn Menschen Bildauschnitte bestimmen, nutzen sie mehr Daten als nur die reine...

smonkey 21. Mai 2021 / Themenstart

Weil Brillenträger bevorzugt werden?

Kommentieren


Folgen Sie uns
       


  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Schnäppchen • Orange Week bei Cyberport: bis zu 70% Rabatt (u. a. WD Black SN750 1TB 109,90€) • Prime-Filme leihen für je 0,99€ • Weekend Deals (u. a. Seagate Expansion+ 4TB 89,90€) • 10% auf Gaming bei Ebay (u. a. AMD Ryzen 7 5800X 350,91€) • Apple Weekend bei MediaMarkt [Werbung]
    •  /