Machine Learning: Twitter bestätigt Vorurteile in seiner Bildauswahl
Nach Kritik und Experimenten mit dem automatischen Bildzuschnitt in seinem Dienst hat Twitter den zugrundeliegenden Machine-Learning-Algorithmus untersucht(öffnet im neuen Fenster) und kommt zu dem Ergebnis: Die Aufgabe der Auswahl eines Ausschnitts sollte besser "von den Leuten, die unsere Produkten nutzen", durchgeführt werden als von der automatisierten Technik.
Der Grund dafür ist, dass der für die Bildauswahl genutzte Algorithmus vorurteilsbehaftet arbeitet. Bei den von Nutzern im vergangenen Herbst dazu zahlreich veröffentlichten Testbildern zeigte sich schon, dass die Bildauswahl offenbar Gesichter Weißer Menschen bevorzugt. Der von Twitter genutzte Machine-Learning-Algorithmus steht damit in einer Reihe weiterer ähnlicher Fehler und Probleme, die in der Vergangenheit immer wieder als rassistisch kritisiert wurden.
Vorurteile bestätigt
Genau das bestätigt nun auch die Untersuchung von Twitter selbst. Demnach bevorzugte die Bildauswahl Frauen gegenüber Männern und Weiße Menschen gegenüber Schwarzen Menschen. Den als männlichen Blick (Male Gaze(öffnet im neuen Fenster)) beschriebenen Eindruck, also dass etwa der Brustbereich oder die Beine von Frauen für den Bildzuschnitt bevorzugt würden, konnte das Twitter-Team dagegen nicht bestätigen. Die Auswahl habe hier nicht auf physischen Eigenschaften der Menschen beruht, sondern etwa auf Zahlen auf Sporttrikots.
Zuletzt hatte der Anbieter 2018 sein Modell zum Zuschnitt der Bilder umgestellt(öffnet im neuen Fenster). Dieses soll hervorspringende Teile eines Bildes bevorzugen, was wiederum auf einer Eye-Tracking-Studie mit nur sehr wenigen Teilnehmern und Bildern zu basieren scheint. Das darauf trainierte Machine-Learning-Modell reproduziert also offenbar die Vorurteile der Menschen in der Ausgangsstudie. Zumindest ist die Bildauswahl eben nicht fair.
Twitter schreibt dazu: "Selbst wenn der Salienz(öffnet im neuen Fenster)-Algorithmus so angepasst würde, dass er die perfekte Gleichstellung zwischen Race und Geschlecht widerspiegelt, sind wir besorgt über den Repräsentationsschaden des automatisierten Algorithmus, wenn Personen sich nicht auf der Plattform so darstellen dürfen, wie sie es wünschen". Ebenso beinhalte die Nutzung von Salienz auch andere mögliche Nachteile, etwa eine Insensibilität in Bezug auf kulturelle Nuancen.
Die Lösung für das beschriebene Problem ist bei Twitter nun, soweit es geht, auf die die beschriebene automatische Bildauswahl zu verzichten. Nach einigen Experimenten hat der Anbieter deshalb vor einigen Wochen Änderungen ausgerollt(öffnet im neuen Fenster), die Bilder in ihrer tatsächlichen Größe darstellt, sofern diese üblichen Bildformaten entspricht. Ebenso wird nun beim Erstellen eines Tweets das Bild so angezeigt, wie es letztlich auch nach der Veröffentlichung zu sehen ist.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.