Machine Learning: KI bewertet Frauen häufiger nach Aussehen

Automatische Bilderkennung kann zwar korrekt sein, aber trotzdem Vorurteile reproduzieren. Das zeigt eine Auswertung kommerzieller KI-Systeme.

Artikel veröffentlicht am ,
Grundlage der Untersuchung waren Bilder der Abgeordneten des US-Kongresses.
Grundlage der Untersuchung waren Bilder der Abgeordneten des US-Kongresses. (Bild: Win McNamee/Getty Images)

Dass KI-Systeme nur so fair oder eben unfair sind wie die Menschen in der Gesellschaft, ist ein wiederkehrendes Problem von Machine-Learning-Systemen, was sich etwa vielfach an automatisierter Bilderkennung zeigt. Genau das hat ein internationales Forschungsteam mit Bildern der US-Kongressabgeordneten untersucht und kommt dabei zu dem Schluss, dass die Systeme zwar korrekt, aber dennoch vorurteilsbehaftet arbeiten können und damit bestehende Vorurteile reproduzieren, was sich etwa in Bezug auf das Äußere von Frauen zeige.

Stellenmarkt
  1. Fullstack Software Engineer (m/w/d)
    Atruvia AG, Karlsruhe, München, Münster
  2. Produktberater mit Schwerpunkt Dokumenten-Management (m/w/d)
    Stiftung Kirchliches Rechenzentrum Südwestdeutschland, Eggenstein-Leopoldshafen
Detailsuche

Bilder von Männern werden demnach häufig mit Labeln wie "offiziell" oder "Geschäftsperson" ausgezeichnet. Bei Frauen hingegen häufen sich Begriffe wie "Lächeln" oder andere Beschreibungen der Äußerlichkeiten. In der Arbeit heißt es: "Wir stellen fest, dass Bilder von Frauen dreimal mehr Anmerkungen zum Aussehen erhielten. Darüber hinaus werden Frauen in Bildern im Vergleich zu Männern wesentlich seltener erkannt."

Carsten Schwemmer, der am Gesis Leibniz-Institut für Sozialwissenschaften forscht und an den Arbeiten beteiligt war, sagte dem Magazin Wired: "Dies führt dazu, dass Frauen ein Stereotyp mit niedrigerem Status erhalten: Frauen sind dazu da, hübsch auszusehen, und Männer sind Wirtschaftsführer."

Unterschiede bei den Vorurteilen

Die Ergebnisse der Untersuchung unterscheiden sich dabei in der Tendenz nicht grundlegend bei den untersuchten Angeboten von Google, Microsoft und Amazon. "In jedem System gab es erhebliche geschlechtsspezifische Vorurteile, aber auch Unterschiede im spezifischen Inhalt und Ausmaß der Vorurteile", heißt es dazu in der wissenschaftlichen Arbeit. So hat die Bilderkennung von Amazon abgebildete Frauen etwa als minderjährig registriert, obwohl dies nicht der Fall war. Bei Männern kam dies nicht vor.

Black Week bei notebooksbilliger.de
Golem Karrierewelt
  1. Kubernetes – das Container Orchestration Framework: virtueller Vier-Tage-Workshop
    11.-14.07.2022, Virtuell
  2. Adobe Photoshop Grundkurs: virtueller Drei-Tage-Workshop
    06.-08.07.2022, Virtuell
Weitere IT-Trainings

Ob und inwiefern sich diese Verfestigung von Vorurteilen in den Systemen überhaupt beheben lässt, ist weiter unklar. Auch deshalb haben einige Unternehmen bereits angekündigt, die Arbeiten etwa an Gesichtserkennung einzustellen, diese nur mit Gesetzesgrundlage einzusetzen oder zumindest die Zusammenarbeit mit Strafverfolgungsbehörden vorerst zu beenden.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


_fly_ 02. Dez 2020

Absolut! Es ist die alte Leier: Frauen verdienen weniger als Männer. Klar, weil sie...

wurstdings 25. Nov 2020

Das ist Quatsch, schön aussehen ist höchst subjektiv. Für mich sehen Leute im Anzug...

PrinzessinArabella 23. Nov 2020

WAS IST ONLYFANS!!?



Aktuell auf der Startseite von Golem.de
US-Streaming
Abonnenten immer unzufriedener mit Netflix

Wenn Netflix-Abonnenten das Abo kündigen, wird vor allem der hohe Preis sowie ein schlechtes Preis-Leistungs-Verhältnis als Grund dafür genannt.

US-Streaming: Abonnenten immer unzufriedener mit Netflix
Artikel
  1. Elektro-SUV: Drako Dragon soll Teslas Model X Plaid deutlich übertreffen
    Elektro-SUV
    Drako Dragon soll Teslas Model X Plaid deutlich übertreffen

    Das Elektroauto Drako Dragon soll mit seinen vier Motoren eine Leistung von 1.470 kW entwickeln und 320 km/h Spitze fahren.

  2. Evari 856: Minimalistisches E-Bike mit Monocoque-Rahmen und Titan
    Evari 856
    Minimalistisches E-Bike mit Monocoque-Rahmen und Titan

    Evari 856 heißt das E-Bike, das mit einem Monocoque-Rahmen aus Carbon ausgestattet ist. Dadurch soll es besonders leicht und stabil sein.

  3. Discovery+: Neues Streamingabo in Deutschland verfügbar
    Discovery+
    Neues Streamingabo in Deutschland verfügbar

    Während etwa Netflix oder Disney werbefinanzierte Varianten ihrer Abos planen, startet Discovery+ gleich mit einem solchen Dienst.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • MSI RTX 3080 Ti Ventus 3X 12G OC 1.049€ • Alternate (u. a. Corsair Vengeance LPX 32 GB DDR4-3600 106,89€) • be quiet! Pure Rock 2 26,99€ • SanDisk microSDXC 400 GB 29€ • The Quarry + PS5-Controller 99,99€ • Samsung Galaxy Watch 3 119€ • Top-PC mit Ryzen 7 & RTX 3070 Ti 1.700€ [Werbung]
    •  /