Machine Learning: KI bewertet Frauen häufiger nach Aussehen

Automatische Bilderkennung kann zwar korrekt sein, aber trotzdem Vorurteile reproduzieren. Das zeigt eine Auswertung kommerzieller KI-Systeme.

Artikel veröffentlicht am ,
Grundlage der Untersuchung waren Bilder der Abgeordneten des US-Kongresses.
Grundlage der Untersuchung waren Bilder der Abgeordneten des US-Kongresses. (Bild: Win McNamee/Getty Images)

Dass KI-Systeme nur so fair oder eben unfair sind wie die Menschen in der Gesellschaft, ist ein wiederkehrendes Problem von Machine-Learning-Systemen, was sich etwa vielfach an automatisierter Bilderkennung zeigt. Genau das hat ein internationales Forschungsteam mit Bildern der US-Kongressabgeordneten untersucht und kommt dabei zu dem Schluss, dass die Systeme zwar korrekt, aber dennoch vorurteilsbehaftet arbeiten können und damit bestehende Vorurteile reproduzieren, was sich etwa in Bezug auf das Äußere von Frauen zeige.

Stellenmarkt
  1. IT-Systemspezialist (m/w/d)
    BARMER, Wuppertal
  2. Softwareentwickler C#/C++ für Medizingeräte (m/w/d)
    STORZ MEDICAL Deutschland GmbH, Jena
Detailsuche

Bilder von Männern werden demnach häufig mit Labeln wie "offiziell" oder "Geschäftsperson" ausgezeichnet. Bei Frauen hingegen häufen sich Begriffe wie "Lächeln" oder andere Beschreibungen der Äußerlichkeiten. In der Arbeit heißt es: "Wir stellen fest, dass Bilder von Frauen dreimal mehr Anmerkungen zum Aussehen erhielten. Darüber hinaus werden Frauen in Bildern im Vergleich zu Männern wesentlich seltener erkannt."

Carsten Schwemmer, der am Gesis Leibniz-Institut für Sozialwissenschaften forscht und an den Arbeiten beteiligt war, sagte dem Magazin Wired: "Dies führt dazu, dass Frauen ein Stereotyp mit niedrigerem Status erhalten: Frauen sind dazu da, hübsch auszusehen, und Männer sind Wirtschaftsführer."

Unterschiede bei den Vorurteilen

Die Ergebnisse der Untersuchung unterscheiden sich dabei in der Tendenz nicht grundlegend bei den untersuchten Angeboten von Google, Microsoft und Amazon. "In jedem System gab es erhebliche geschlechtsspezifische Vorurteile, aber auch Unterschiede im spezifischen Inhalt und Ausmaß der Vorurteile", heißt es dazu in der wissenschaftlichen Arbeit. So hat die Bilderkennung von Amazon abgebildete Frauen etwa als minderjährig registriert, obwohl dies nicht der Fall war. Bei Männern kam dies nicht vor.

Black Week bei notebooksbilliger.de
Golem Akademie
  1. C++ 20: Concepts - Ranges - Coroutinen - Module
    4.-8. Oktober 2021, online
  2. Einführung in die Programmierung mit Rust
    21.-24. September 2021, online
  3. Python kompakt - Einführung für Softwareentwickler
    28.-29. Oktober 2021, online
Weitere IT-Trainings

Ob und inwiefern sich diese Verfestigung von Vorurteilen in den Systemen überhaupt beheben lässt, ist weiter unklar. Auch deshalb haben einige Unternehmen bereits angekündigt, die Arbeiten etwa an Gesichtserkennung einzustellen, diese nur mit Gesetzesgrundlage einzusetzen oder zumindest die Zusammenarbeit mit Strafverfolgungsbehörden vorerst zu beenden.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Elon Musk
Tesla Model S bekommt ausschließlich Knight-Rider-Lenkrad

Elon Musk hat klargestellt, dass es für das Model S und das Model X kein normales Lenkrad mehr geben wird. Das D-förmige Lenkrad ist Pflicht.

Elon Musk: Tesla Model S bekommt ausschließlich Knight-Rider-Lenkrad
Artikel
  1. Loongson 3A5000: Chinesische Quadcore-CPU mit eigenem Befehlssatz
    Loongson 3A5000
    Chinesische Quadcore-CPU mit eigenem Befehlssatz

    50 Prozent schneller als der Vorgänger-Chip und dabei sparsamer: Der 3A5000 mit LoongArch-Technik stellt einen wichtigen Umbruch dar.

  2. Probefahrt mit EQS: Mercedes schüttelt Tesla ab, aber nicht die Klimakrise
    Probefahrt mit EQS
    Mercedes schüttelt Tesla ab, aber nicht die Klimakrise

    Der neue EQS von Mercedes-Benz widerlegt die Argumente vieler Elektroauto-Gegner. Auch die Komforttüren gefallen uns.
    Ein Bericht von Friedhelm Greis

  3. Förderprogramm: Bund will Fachkräfte für Akkuindustrie ausbilden lassen
    Förderprogramm
    Bund will Fachkräfte für Akkuindustrie ausbilden lassen

    Die Aus- und Weiterbildung für Fachleute im Bereich Akkuproduktion und -entwicklung wird mit 40 Millionen Euro aus der Staatskasse gefördert.

_fly_ 02. Dez 2020

Absolut! Es ist die alte Leier: Frauen verdienen weniger als Männer. Klar, weil sie...

wurstdings 25. Nov 2020

Das ist Quatsch, schön aussehen ist höchst subjektiv. Für mich sehen Leute im Anzug...

PrinzessinArabella 23. Nov 2020

WAS IST ONLYFANS!!?

Bilbobeutlin123 23. Nov 2020

Doch doch. Lass das Mal andere Entwickeln. Sonst werden wieder alte weiße cis Männer von...



  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Schnäppchen • 30% Rabatt auf Amazon Warehouse • ASUS TUF VG279QM 280 Hz 306,22€ • Fractal Design Meshify C Mini 69,90€ • Acer Nitro XF243Y 165Hz OC ab 169€ • Samsung C24RG54FQR 125€ • EA-Promo bei Gamesplanet • Alternate (u. a. Fractal Design Define S2 106,89€) • Roccat Horde Aimo 49€ [Werbung]
    •  /