• IT-Karriere:
  • Services:

Machine Learning: KI bewertet Frauen häufiger nach Aussehen

Automatische Bilderkennung kann zwar korrekt sein, aber trotzdem Vorurteile reproduzieren. Das zeigt eine Auswertung kommerzieller KI-Systeme.

Artikel veröffentlicht am ,
Grundlage der Untersuchung waren Bilder der Abgeordneten des US-Kongresses.
Grundlage der Untersuchung waren Bilder der Abgeordneten des US-Kongresses. (Bild: Win McNamee/Getty Images)

Dass KI-Systeme nur so fair oder eben unfair sind wie die Menschen in der Gesellschaft, ist ein wiederkehrendes Problem von Machine-Learning-Systemen, was sich etwa vielfach an automatisierter Bilderkennung zeigt. Genau das hat ein internationales Forschungsteam mit Bildern der US-Kongressabgeordneten untersucht und kommt dabei zu dem Schluss, dass die Systeme zwar korrekt, aber dennoch vorurteilsbehaftet arbeiten können und damit bestehende Vorurteile reproduzieren, was sich etwa in Bezug auf das Äußere von Frauen zeige.

Stellenmarkt
  1. Berufsgenossenschaft Handel und Warenlogistik, Bonn
  2. operational services GmbH & Co. KG, Frankfurt am Main

Bilder von Männern werden demnach häufig mit Labeln wie "offiziell" oder "Geschäftsperson" ausgezeichnet. Bei Frauen hingegen häufen sich Begriffe wie "Lächeln" oder andere Beschreibungen der Äußerlichkeiten. In der Arbeit heißt es: "Wir stellen fest, dass Bilder von Frauen dreimal mehr Anmerkungen zum Aussehen erhielten. Darüber hinaus werden Frauen in Bildern im Vergleich zu Männern wesentlich seltener erkannt."

Carsten Schwemmer, der am Gesis Leibniz-Institut für Sozialwissenschaften forscht und an den Arbeiten beteiligt war, sagte dem Magazin Wired: "Dies führt dazu, dass Frauen ein Stereotyp mit niedrigerem Status erhalten: Frauen sind dazu da, hübsch auszusehen, und Männer sind Wirtschaftsführer."

Unterschiede bei den Vorurteilen

Die Ergebnisse der Untersuchung unterscheiden sich dabei in der Tendenz nicht grundlegend bei den untersuchten Angeboten von Google, Microsoft und Amazon. "In jedem System gab es erhebliche geschlechtsspezifische Vorurteile, aber auch Unterschiede im spezifischen Inhalt und Ausmaß der Vorurteile", heißt es dazu in der wissenschaftlichen Arbeit. So hat die Bilderkennung von Amazon abgebildete Frauen etwa als minderjährig registriert, obwohl dies nicht der Fall war. Bei Männern kam dies nicht vor.

Black Week bei notebooksbilliger.de

Ob und inwiefern sich diese Verfestigung von Vorurteilen in den Systemen überhaupt beheben lässt, ist weiter unklar. Auch deshalb haben einige Unternehmen bereits angekündigt, die Arbeiten etwa an Gesichtserkennung einzustellen, diese nur mit Gesetzesgrundlage einzusetzen oder zumindest die Zusammenarbeit mit Strafverfolgungsbehörden vorerst zu beenden.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Mobile-Angebote
  1. 279,99€ (Bestpreis)
  2. 189,99€ (Bestpreis)
  3. (u. a. Galaxy S21 mit Galaxy Buds Pro In-Ears und Galaxy Smart Tag für 849€)

_fly_ 02. Dez 2020 / Themenstart

Absolut! Es ist die alte Leier: Frauen verdienen weniger als Männer. Klar, weil sie...

wurstdings 25. Nov 2020 / Themenstart

Das ist Quatsch, schön aussehen ist höchst subjektiv. Für mich sehen Leute im Anzug...

PrinzessinArabella 23. Nov 2020 / Themenstart

WAS IST ONLYFANS!!?

Bilbobeutlin123 23. Nov 2020 / Themenstart

Doch doch. Lass das Mal andere Entwickeln. Sonst werden wieder alte weiße cis Männer von...

Kommentieren


Folgen Sie uns
       


Watch Dogs Legion - Fazit

Mit Legion liefert Ubisoft das bisher mit Abstand beste Watch Dogs ab.

Watch Dogs Legion - Fazit Video aufrufen
Boeing 737 Max: Neustart mit Hindernissen
Boeing 737 Max
Neustart mit Hindernissen

Die Boeing 737 ist nach dem Flugzeugabsturz in Indonesien wieder in den Schlagzeilen. Die Version Max darf seit Dezember wieder fliegen - doch Kritiker halten die Verbesserungen für unzureichend.
Ein Bericht von Friedrich List

  1. Flugzeug Boeing erhält den letzten Auftrag für den Bau der 747
  2. Boeing 737 Max Boeing-Strafverfahren gegen hohe Geldstrafe eingestellt
  3. Zunum Luftfahrt-Startup verklagt Boeing

Donald Trump: Das große Unbehagen nach der Twitter-Sperre
Donald Trump
Das große Unbehagen nach der Twitter-Sperre

Die IT-Konzerne gehen wie in einer konzertierten Aktion gegen Donald Trump und dessen Anhänger vor. Ist das vertretbar oder ein gefährlicher Präzedenzfall?
Eine Analyse von Friedhelm Greis

  1. Reaktion auf Kapitol-Sturm Youtube sperrt Trump-Kanal für mindestens eine Woche
  2. US-Wahlen Facebook erwägt dauerhafte Sperre Trumps
  3. Social Media Amazon schaltet Parler die Server ab

Neue Fire-TV-Oberfläche im Test: Noch mehr Nachteile für Prime-Video-Kunden
Neue Fire-TV-Oberfläche im Test
Noch mehr Nachteile für Prime-Video-Kunden

Eigentlich wollte Amazon die Oberfläche von Fire-TV-Geräten verbessern - das ist gründlich misslungen.
Ein Test von Ingo Pakalski

  1. Media Markt und Saturn Erster Smart-TV der Ok-Eigenmarke mit Fire-TV-Oberfläche
  2. Amazon Fire TV Cube wechselt TV-Programm auf Zuruf

    •  /