KI: Weitere Diskriminierungen in Twitter-Algorithmus gezeigt

Die automatische Bildauswahl von Twitter bevorzugt Frauen und junge Personen sowie lateinische Schrift und schneidet Behinderte aus.

Artikel veröffentlicht am ,
Die Bildauswahl von Twitter hat zahlreiche Probleme.
Die Bildauswahl von Twitter hat zahlreiche Probleme. (Bild: Brendan McDermid/File Photo/Reuter)

Im Rahmen eines Wettbewerbs und mithilfe sogenannter Bug Bountys, also einem kleinen Preisgeld, hatte der Social-Network-Betreiber Twitter dazu aufgerufen, weitere diskriminierende Eigenschaften seines automatischen Bildzuschnitts zu suchen. Wie unter anderem das Team auf seiner eigenen Plattform selbst schreibt, sind einige Forscher dabei fündig geworden.

Stellenmarkt
  1. IT-Anwendungsbetreuer (m/w/d)
    Scheidt & Bachmann Signalling Systems GmbH, Mönchengladbach
  2. 2 Hauptsachbearbeiter / innen (w/m/d)
    Statistisches Bundesamt, Wiesbaden
Detailsuche

So verändert etwa die Nutzung von sogenannten Beauty-Filtern, die auf zahlreichen Social-Media-Plattformen genutzt werden, die internen Bewertungen von Bildern durch den Algorithmus. "Dies zeigt, wie algorithmische Modelle reale Vorurteile und gesellschaftliche Erwartungen an Schönheit verstärken". Konkret bedeutet das, dass etwa Gesichter mit "stereotyp weiblichen Eigenschaften" bevorzugt werden. Ähnliches gelte für jüngere Personen oder auch schlankere Gesichter.

Ein weiteres Team konnte zeigen, dass die Bildauswahl von Twitter gesellschaftliche "Marginalisierungen fortschreibt". Dazu heißt es: "Beispielsweise wurden Bilder von älteren und behinderten Menschen weiter an den Rand gedrängt, indem sie aus Fotos herausgeschnitten und räumliche Blickverzerrungen verstärkt wurden".

Zahlreiche Probleme mit dem Twitter-Bildzuschnitt

Bei dem Wettbewerb, der auf der Konferenz Def Con abgehalten wurde, konnte auch nachgewiesen werden, dass die Bildauswahl bei mehrsprachigen Memes lateinische Buchstaben gegenüber arabischen bevorzugt. Zu den weiteren Erkenntnissen gehörte, dass selbst Emojis mit hellerem Hauttyp bevorzugt werden und dass auch durch die gezielte Manipulation einzelner Pixel im Bild der Algorithmus manipuliert werden kann.

Golem Akademie
  1. IT-Fachseminare der Golem Akademie
    Live-Workshops zu Schlüsselqualifikationen
  2. 1:1-Videocoaching mit Golem Shifoo
    Berufliche Herausforderungen meistern
  3. Online-Sprachkurse mit Golem & Gymglish
    Kurze Lektionen, die funktionieren
Weitere IT-Trainings

Twitter-Nutzer hatten im vergangenen Herbst zahlreiche Testbilder veröffentlicht, wobei sich zeigte, dass die Bildauswahl offenbar Gesichter weißer Menschen bevorzugt. Der von Twitter genutzte Machine-Learning-Algorithmus für die Bildauswahl steht damit in einer Reihe ähnlicher Fehler und Probleme, die in der Vergangenheit immer wieder als rassistisch kritisiert wurden.

Tolle Technik-Deals und viele weitere Schnäppchen

Nach Kritik an dem Algorithmus und weiteren Experimenten mit dem automatischen Bildzuschnitt bei seinem Dienst hat Twitter den zugrundeliegenden Machine-Learning-Algorithmus untersucht und kam zu dem Ergebnis, dass der Algorithmus vorurteilsbehaftet arbeitet. Der auf der Konferenz durchgeführte Wettbewerb sollte die Arbeiten dazu vertiefen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Thinkpad E14 Gen3 im Test
Ryzen-Laptop mit grandiosem Preis-Leistungs-Verhältnis

Schon das Thinkpad E14 Gen2 war exzellent, bei der Gen3 aber hat Lenovo die zwei Schwachstellen - Akku und Display - behoben. Bravo!
Ein Test von Marc Sauter

Thinkpad E14 Gen3 im Test: Ryzen-Laptop mit grandiosem Preis-Leistungs-Verhältnis
Artikel
  1. Manifest v3: Google setzt Enddatum für alte Chrome-Erweiterungen
    Manifest v3
    Google setzt Enddatum für alte Chrome-Erweiterungen

    Die neue Erweiterungsschnittstelle Manifest v3 in Chrome könnte Adblocker erschweren. Ab Januar 2023 muss die Technik genutzt werden.

  2. Eine dritte Hand für Netzwerkadministratoren
     
    Eine dritte Hand für Netzwerkadministratoren

    Die Aufgaben von Systemadministratoren werden immer komplexer und vielfältiger. Unterstützung bietet jetzt das Wiener Start-up PATCHBOX mit dem selbst entwickelten Installations-Tool Setup.exe.
    Sponsored Post von Patchbox

  3. Science-Fiction der Neunziger: Babylon 5 wird neu aufgelegt
    Science-Fiction der Neunziger
    Babylon 5 wird neu aufgelegt

    Die Science-Fiction-Serie Babylon 5 soll neu aufgelegt werden. Ein wichtiger Drehbuchautor des Originals ist mit dabei.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Saturn-Aktion: Win 10-Laptop/PC kaufen, kostenloses Upgrade auf Windows 11 erhalten • Bosch Professional & PC-Spiele von EA günstiger • Alternate (u. a. Asus TUF 23,8" FHD 165Hz 179,90€) • Nur noch heute PS5-Gewinnspiel bei Amazon • 7 Tage Samsung-Angebote [Werbung]
    •  /