Machine Learning: Twitter bestätigt Vorurteile in seiner Bildauswahl

Nutzer zeigten Vorurteile in Twitters Bildzuschnitt. Das Unternehmen hat das nun untersucht und reduziert den Einsatz deutlich.

Artikel veröffentlicht am ,
Twitter will Bilder deutlich weniger automatisch zuschneiden als bisher.
Twitter will Bilder deutlich weniger automatisch zuschneiden als bisher. (Bild: Stephen Lam/File Photo/Reuters)

Nach Kritik und Experimenten mit dem automatischen Bildzuschnitt in seinem Dienst hat Twitter den zugrundeliegenden Machine-Learning-Algorithmus untersucht und kommt zu dem Ergebnis: Die Aufgabe der Auswahl eines Ausschnitts sollte besser "von den Leuten, die unsere Produkten nutzen", durchgeführt werden als von der automatisierten Technik.

Stellenmarkt
  1. Systemadministrator (m/w/d) Werks-IT
    Nordgetreide GmbH & Co. KG, Pritzwalk-Falkenhagen (Prignitz)
  2. Principal Expert Preisprüfung - Teamleiter Controlling öffentliches Preisrecht (m/w/d)
    Hays AG, München
Detailsuche

Der Grund dafür ist, dass der für die Bildauswahl genutzte Algorithmus vorurteilsbehaftet arbeitet. Bei den von Nutzern im vergangenen Herbst dazu zahlreich veröffentlichten Testbildern zeigte sich schon, dass die Bildauswahl offenbar Gesichter Weißer Menschen bevorzugt. Der von Twitter genutzte Machine-Learning-Algorithmus steht damit in einer Reihe weiterer ähnlicher Fehler und Probleme, die in der Vergangenheit immer wieder als rassistisch kritisiert wurden.

Vorurteile bestätigt

Genau das bestätigt nun auch die Untersuchung von Twitter selbst. Demnach bevorzugte die Bildauswahl Frauen gegenüber Männern und Weiße Menschen gegenüber Schwarzen Menschen. Den als männlichen Blick (Male Gaze) beschriebenen Eindruck, also dass etwa der Brustbereich oder die Beine von Frauen für den Bildzuschnitt bevorzugt würden, konnte das Twitter-Team dagegen nicht bestätigen. Die Auswahl habe hier nicht auf physischen Eigenschaften der Menschen beruht, sondern etwa auf Zahlen auf Sporttrikots.

Zuletzt hatte der Anbieter 2018 sein Modell zum Zuschnitt der Bilder umgestellt. Dieses soll hervorspringende Teile eines Bildes bevorzugen, was wiederum auf einer Eye-Tracking-Studie mit nur sehr wenigen Teilnehmern und Bildern zu basieren scheint. Das darauf trainierte Machine-Learning-Modell reproduziert also offenbar die Vorurteile der Menschen in der Ausgangsstudie. Zumindest ist die Bildauswahl eben nicht fair.

Golem Karrierewelt
  1. Linux-Systemadministration Grundlagen: virtueller Fünf-Tage-Workshop
    14.-18.11.2022, Virtuell
  2. Kubernetes Dive-in-Workshop: virtueller Drei-Tage-Workshop
    19.-21.07.2022, Virtuell
Weitere IT-Trainings

Twitter schreibt dazu: "Selbst wenn der Salienz-Algorithmus so angepasst würde, dass er die perfekte Gleichstellung zwischen Race und Geschlecht widerspiegelt, sind wir besorgt über den Repräsentationsschaden des automatisierten Algorithmus, wenn Personen sich nicht auf der Plattform so darstellen dürfen, wie sie es wünschen". Ebenso beinhalte die Nutzung von Salienz auch andere mögliche Nachteile, etwa eine Insensibilität in Bezug auf kulturelle Nuancen.

Hohe Rabatte bei den Amazon Blitzangeboten

Die Lösung für das beschriebene Problem ist bei Twitter nun, soweit es geht, auf die die beschriebene automatische Bildauswahl zu verzichten. Nach einigen Experimenten hat der Anbieter deshalb vor einigen Wochen Änderungen ausgerollt, die Bilder in ihrer tatsächlichen Größe darstellt, sofern diese üblichen Bildformaten entspricht. Ebenso wird nun beim Erstellen eines Tweets das Bild so angezeigt, wie es letztlich auch nach der Veröffentlichung zu sehen ist.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Alterskontrolle und Netzsperren
Es geht um viel mehr als nur die Chatkontrolle

Neben der umstrittenen Chatkontrolle enthält der Gesetzentwurf der EU-Kommission auch Vorgaben zur Altersverifkation, Netzsperren und Appstores.
Eine Analyse von Moritz Tremmel und Friedhelm Greis

Alterskontrolle und Netzsperren: Es geht um viel mehr als nur die Chatkontrolle
Artikel
  1. Liberty Lifter: US-Militär lässt ein eigenes Ekranoplan entwickeln
    Liberty Lifter
    US-Militär lässt ein eigenes Ekranoplan entwickeln

    In den 1960er Jahren schockten die Sowjets den Westen mit dem Kaspischen Seemonster. Die Darpa will ein eigenes, besseres Bodeneffektfahrzeug bauen.

  2. Amazons E-Book-Reader: Alte Kindle-Modelle verlieren Buchkauf und -ausleihe
    Amazons E-Book-Reader
    Alte Kindle-Modelle verlieren Buchkauf und -ausleihe

    Amazon streicht in Kürze auf fünf älteren Kindle-Modellen alle Funktionen, die mit Amazons E-Book-Store zusammenhängen.

  3. Voyager a1600: Corsairs Radeon/Ryzen-Laptop für Streamer
    Voyager a1600
    Corsairs Radeon/Ryzen-Laptop für Streamer

    Mit 1080p30-Webcam, Elgato-Software und Touchbar: Das Voyager a1600 ist Corsairs erstes Notebook, es richtet sich an Gamer und Streamer.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Days of Play: (u. a. PS5-Controller (alle Farben) günstig wie nie: 49,99€, PS5-Headset Sony Pulse 3D günstig wie nie: 79,99€) • Viewsonic Gaming-Monitore günstiger • Mindstar (u. a. MSI RTX 3090 24GB 1.599€) • Xbox Series X bestellbar • Samsung SSD 1TB 79€ [Werbung]
    •  /