KI: Weitere Diskriminierungen in Twitter-Algorithmus gezeigt

Die automatische Bildauswahl von Twitter bevorzugt Frauen und junge Personen sowie lateinische Schrift und schneidet Behinderte aus.

Artikel veröffentlicht am ,
Die Bildauswahl von Twitter hat zahlreiche Probleme.
Die Bildauswahl von Twitter hat zahlreiche Probleme. (Bild: Brendan McDermid/File Photo/Reuter)

Im Rahmen eines Wettbewerbs und mithilfe sogenannter Bug Bountys, also einem kleinen Preisgeld, hatte der Social-Network-Betreiber Twitter dazu aufgerufen, weitere diskriminierende Eigenschaften seines automatischen Bildzuschnitts zu suchen. Wie unter anderem das Team auf seiner eigenen Plattform selbst schreibt, sind einige Forscher dabei fündig geworden.

Stellenmarkt
  1. Produktmanager / Produktverantwortlicher Online-Dienste (w/m/d)
    Dataport, verschiedene Standorte
  2. First-Level-Supporter (m/w/d)
    PHYTEC Messtechnik GmbH, Mainz
Detailsuche

So verändert etwa die Nutzung von sogenannten Beauty-Filtern, die auf zahlreichen Social-Media-Plattformen genutzt werden, die internen Bewertungen von Bildern durch den Algorithmus. "Dies zeigt, wie algorithmische Modelle reale Vorurteile und gesellschaftliche Erwartungen an Schönheit verstärken". Konkret bedeutet das, dass etwa Gesichter mit "stereotyp weiblichen Eigenschaften" bevorzugt werden. Ähnliches gelte für jüngere Personen oder auch schlankere Gesichter.

Ein weiteres Team konnte zeigen, dass die Bildauswahl von Twitter gesellschaftliche "Marginalisierungen fortschreibt". Dazu heißt es: "Beispielsweise wurden Bilder von älteren und behinderten Menschen weiter an den Rand gedrängt, indem sie aus Fotos herausgeschnitten und räumliche Blickverzerrungen verstärkt wurden".

Zahlreiche Probleme mit dem Twitter-Bildzuschnitt

Bei dem Wettbewerb, der auf der Konferenz Def Con abgehalten wurde, konnte auch nachgewiesen werden, dass die Bildauswahl bei mehrsprachigen Memes lateinische Buchstaben gegenüber arabischen bevorzugt. Zu den weiteren Erkenntnissen gehörte, dass selbst Emojis mit hellerem Hauttyp bevorzugt werden und dass auch durch die gezielte Manipulation einzelner Pixel im Bild der Algorithmus manipuliert werden kann.

Golem Karrierewelt
  1. Cinema 4D Grundlagen: virtueller Drei-Tage-Workshop
    05.-07.09.2022, Virtuell
  2. AZ-104 Microsoft Azure Administrator: virtueller Vier-Tage-Workshop
    19.-22.09.2022, virtuell
Weitere IT-Trainings

Twitter-Nutzer hatten im vergangenen Herbst zahlreiche Testbilder veröffentlicht, wobei sich zeigte, dass die Bildauswahl offenbar Gesichter weißer Menschen bevorzugt. Der von Twitter genutzte Machine-Learning-Algorithmus für die Bildauswahl steht damit in einer Reihe ähnlicher Fehler und Probleme, die in der Vergangenheit immer wieder als rassistisch kritisiert wurden.

Hohe Rabatte bei den Amazon Blitzangeboten

Nach Kritik an dem Algorithmus und weiteren Experimenten mit dem automatischen Bildzuschnitt bei seinem Dienst hat Twitter den zugrundeliegenden Machine-Learning-Algorithmus untersucht und kam zu dem Ergebnis, dass der Algorithmus vorurteilsbehaftet arbeitet. Der auf der Konferenz durchgeführte Wettbewerb sollte die Arbeiten dazu vertiefen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Native ARM-Version ausprobiert
Microsoft Teams für Apple Silicon endlich benutzbar

Die native ARM-Version von Teams für Macs mit Apple Silicon hat es in sich: Neben deutlichen Performance-Gewinnen überrascht die Akkulaufzeit.
Ein Bericht von Martin Böckmann und Marc Sauter

Native ARM-Version ausprobiert: Microsoft Teams für Apple Silicon endlich benutzbar
Artikel
  1. Microsoft: Bug in Windows 11 und Server 2022 führt zu Datenschäden
    Microsoft
    Bug in Windows 11 und Server 2022 führt zu Datenschäden

    Fast alle Maschinen mit modernen CPUs von AMD und Intel sind von dem Fehler betroffen, wenn sie Daten verschlüsseln - etwa per Bitlocker.

  2. Wegen Twitter-Deal: Elon Musk verkauft Tesla-Aktien im Milliardenwert
    Wegen Twitter-Deal
    Elon Musk verkauft Tesla-Aktien im Milliardenwert

    Der Tesla-CEO bereitet sich auf den "hoffentlich unwahrscheinlichen" Fall vor, dass er Twitter tatsächlich kaufen muss.

  3. Antivirensoftware: Wie das BSI Kaspersky zur Bedrohung erklärte
    Antivirensoftware
    Wie das BSI Kaspersky zur Bedrohung erklärte

    Interne Dokumente des BSI zeigen, wie es zu der Warnung vor Kaspersky kam - inklusive eines Gefallens für GData.
    Von Moritz Tremmel

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Grafikkarten zu Tiefpreisen (Gigabyte RTX 3080 Ti 1.089€, Gigabyte RTX 3080 12GB 859€) • MSI-Sale: Gaming-Laptops/PCs bis -30% • Sharkoon PC-Gehäuse -53% • Philips Hue -46% • Günstig wie nie: Samsung SSD 2TB Heatsink (PS5) 219,99€ • Der beste Gaming-PC für 2.000€ [Werbung]
    •  /