KI: Weitere Diskriminierungen in Twitter-Algorithmus gezeigt

Die automatische Bildauswahl von Twitter bevorzugt Frauen und junge Personen sowie lateinische Schrift und schneidet Behinderte aus.

Artikel veröffentlicht am ,
Die Bildauswahl von Twitter hat zahlreiche Probleme.
Die Bildauswahl von Twitter hat zahlreiche Probleme. (Bild: Brendan McDermid/File Photo/Reuter)

Im Rahmen eines Wettbewerbs und mithilfe sogenannter Bug Bountys, also einem kleinen Preisgeld, hatte der Social-Network-Betreiber Twitter dazu aufgerufen, weitere diskriminierende Eigenschaften seines automatischen Bildzuschnitts zu suchen. Wie unter anderem das Team auf seiner eigenen Plattform selbst schreibt, sind einige Forscher dabei fündig geworden.

Stellenmarkt
  1. Junior Cloud Consultant (m/w/d)
    operational services GmbH & Co. KG, verschiedene Standorte
  2. Projektleiter SASPF für Logistikprojekte (gn)
    ESG Elektroniksystem- und Logistik-GmbH, Koblenz
Detailsuche

So verändert etwa die Nutzung von sogenannten Beauty-Filtern, die auf zahlreichen Social-Media-Plattformen genutzt werden, die internen Bewertungen von Bildern durch den Algorithmus. "Dies zeigt, wie algorithmische Modelle reale Vorurteile und gesellschaftliche Erwartungen an Schönheit verstärken". Konkret bedeutet das, dass etwa Gesichter mit "stereotyp weiblichen Eigenschaften" bevorzugt werden. Ähnliches gelte für jüngere Personen oder auch schlankere Gesichter.

Ein weiteres Team konnte zeigen, dass die Bildauswahl von Twitter gesellschaftliche "Marginalisierungen fortschreibt". Dazu heißt es: "Beispielsweise wurden Bilder von älteren und behinderten Menschen weiter an den Rand gedrängt, indem sie aus Fotos herausgeschnitten und räumliche Blickverzerrungen verstärkt wurden".

Zahlreiche Probleme mit dem Twitter-Bildzuschnitt

Bei dem Wettbewerb, der auf der Konferenz Def Con abgehalten wurde, konnte auch nachgewiesen werden, dass die Bildauswahl bei mehrsprachigen Memes lateinische Buchstaben gegenüber arabischen bevorzugt. Zu den weiteren Erkenntnissen gehörte, dass selbst Emojis mit hellerem Hauttyp bevorzugt werden und dass auch durch die gezielte Manipulation einzelner Pixel im Bild der Algorithmus manipuliert werden kann.

Golem Karrierewelt
  1. Hands-on C# Programmierung: virtueller Zwei-Tage-Workshop
    08./09.11.2022, virtuell
  2. Cloud Competence Center: Strategien, Roadmap, Governance: virtueller Ein-Tages-Workshop
    06.10.2022, Virtuell
Weitere IT-Trainings

Twitter-Nutzer hatten im vergangenen Herbst zahlreiche Testbilder veröffentlicht, wobei sich zeigte, dass die Bildauswahl offenbar Gesichter weißer Menschen bevorzugt. Der von Twitter genutzte Machine-Learning-Algorithmus für die Bildauswahl steht damit in einer Reihe ähnlicher Fehler und Probleme, die in der Vergangenheit immer wieder als rassistisch kritisiert wurden.

Hohe Rabatte bei den Amazon Blitzangeboten

Nach Kritik an dem Algorithmus und weiteren Experimenten mit dem automatischen Bildzuschnitt bei seinem Dienst hat Twitter den zugrundeliegenden Machine-Learning-Algorithmus untersucht und kam zu dem Ergebnis, dass der Algorithmus vorurteilsbehaftet arbeitet. Der auf der Konferenz durchgeführte Wettbewerb sollte die Arbeiten dazu vertiefen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Streit mit Magnus Carlsen
Schachgroßmeister Niemann soll über 100 Mal betrogen haben

Schachweltmeister Magnus Carlsen wirft dem Großmeister Hans Niemann Betrug vor - eine neue Untersuchung stärkt die Vorwürfe.

Streit mit Magnus Carlsen: Schachgroßmeister Niemann soll über 100 Mal betrogen haben
Artikel
  1. Airpods Pro 2 im Test: Apple schaltet Lärm und Konkurrenz aus
    Airpods Pro 2 im Test
    Apple schaltet Lärm und Konkurrenz aus

    Mit sinnvollen Änderungen sind die Airpods Pro 2 das Beste, was es derzeit an ANC-Hörstöpseln gibt. Aber Apples kundenfeindliche Borniertheit nervt.
    Ein Test von Ingo Pakalski

  2. Vodafone und Telekom: Zwei Netzbetreiber melden Datenrekord auf Oktoberfest
    Vodafone und Telekom
    Zwei Netzbetreiber melden Datenrekord auf Oktoberfest

    Die Telekom liegt beim Datenvolumen klar vor Vodafone. Es gab in diesem Jahr besonders viel Roaming durch ausländische Netze.

  3. Dr. Mike Eissele: Es kann immer wieder technologische Revolutionen geben
    Dr. Mike Eissele
    "Es kann immer wieder technologische Revolutionen geben"

    Chefs von Devs Teamviewer-CTO Dr. Mike Eissele gibt einen tiefen Einblick, wie man sich auf eine Arbeitswelt ohne Bildschirme vorbereitet.
    Ein Interview von Daniel Ziegener

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Günstig wie nie: Inno3D RTX 3090 Ti 1.199€, MSI B550 Mainboard 118,10€, LG OLED 48" 799€, Samsung QLED TVs 2022 (u. a. 65" 899€, 55" 657€) • Alternate (Acer Gaming-Monitore) • MindStar (G-Skill DDR4-3600 16GB 88€, Intel Core i5 2.90 Ghz 99€) • 3 Spiele für 49€ [Werbung]
    •  /