Machine Learning: KI bewertet Frauen häufiger nach Aussehen

Automatische Bilderkennung kann zwar korrekt sein, aber trotzdem Vorurteile reproduzieren. Das zeigt eine Auswertung kommerzieller KI-Systeme.

Artikel veröffentlicht am ,
Grundlage der Untersuchung waren Bilder der Abgeordneten des US-Kongresses.
Grundlage der Untersuchung waren Bilder der Abgeordneten des US-Kongresses. (Bild: Win McNamee/Getty Images)

Dass KI-Systeme nur so fair oder eben unfair sind wie die Menschen in der Gesellschaft, ist ein wiederkehrendes Problem von Machine-Learning-Systemen, was sich etwa vielfach an automatisierter Bilderkennung zeigt. Genau das hat ein internationales Forschungsteam mit Bildern der US-Kongressabgeordneten untersucht und kommt dabei zu dem Schluss, dass die Systeme zwar korrekt, aber dennoch vorurteilsbehaftet arbeiten können und damit bestehende Vorurteile reproduzieren, was sich etwa in Bezug auf das Äußere von Frauen zeige.

Stellenmarkt
  1. Produktmanager Enterprise IAM Services (m/w/d)
    Helios IT Service GmbH, Berlin-Buch
  2. Service Delivery Manager (m/w/d)
    operational services GmbH & Co. KG, Wolfsburg
Detailsuche

Bilder von Männern werden demnach häufig mit Labeln wie "offiziell" oder "Geschäftsperson" ausgezeichnet. Bei Frauen hingegen häufen sich Begriffe wie "Lächeln" oder andere Beschreibungen der Äußerlichkeiten. In der Arbeit heißt es: "Wir stellen fest, dass Bilder von Frauen dreimal mehr Anmerkungen zum Aussehen erhielten. Darüber hinaus werden Frauen in Bildern im Vergleich zu Männern wesentlich seltener erkannt."

Carsten Schwemmer, der am Gesis Leibniz-Institut für Sozialwissenschaften forscht und an den Arbeiten beteiligt war, sagte dem Magazin Wired: "Dies führt dazu, dass Frauen ein Stereotyp mit niedrigerem Status erhalten: Frauen sind dazu da, hübsch auszusehen, und Männer sind Wirtschaftsführer."

Unterschiede bei den Vorurteilen

Die Ergebnisse der Untersuchung unterscheiden sich dabei in der Tendenz nicht grundlegend bei den untersuchten Angeboten von Google, Microsoft und Amazon. "In jedem System gab es erhebliche geschlechtsspezifische Vorurteile, aber auch Unterschiede im spezifischen Inhalt und Ausmaß der Vorurteile", heißt es dazu in der wissenschaftlichen Arbeit. So hat die Bilderkennung von Amazon abgebildete Frauen etwa als minderjährig registriert, obwohl dies nicht der Fall war. Bei Männern kam dies nicht vor.

Black Week bei notebooksbilliger.de
Golem Akademie
  1. C++ 20: Concepts - Ranges - Coroutinen - Module
    4.-8. Oktober 2021, online
  2. Einführung in die Programmierung mit Rust
    21.-24. September 2021, online
  3. Advanced Python - Fortgeschrittene Programmierthemen
    16./17. September 2021, online
Weitere IT-Trainings

Ob und inwiefern sich diese Verfestigung von Vorurteilen in den Systemen überhaupt beheben lässt, ist weiter unklar. Auch deshalb haben einige Unternehmen bereits angekündigt, die Arbeiten etwa an Gesichtserkennung einzustellen, diese nur mit Gesetzesgrundlage einzusetzen oder zumindest die Zusammenarbeit mit Strafverfolgungsbehörden vorerst zu beenden.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Victorian Big Battery
Tesla-Speicher brannte vier Tage lang

Viel Aufwand war nötig, um das brennende Akku-Modul zu löschen.

Victorian Big Battery: Tesla-Speicher brannte vier Tage lang
Artikel
  1. Windows 365: Der mietbare Cloud-PC mit Windows kann bestellt werden
    Windows 365
    Der mietbare Cloud-PC mit Windows kann bestellt werden

    Microsoft startet mit Windows 365 und gibt Preise für den Cloud-PC bekannt. Die VMs sollen wie physische Windows-PCs funktionieren.

  2. Android: Googles Tensor-SoC ist eine halbe Mogelpackung
    Android
    Googles Tensor-SoC ist eine halbe Mogelpackung

    Für seinen ersten eigenen Smartphone-Chip liefert Google ausschließlich Erwartbares und dämpft damit sämtliche Hoffnungen an besseren Support und gute Linux-Treiber.
    Ein IMHO von Sebastian Grüner

  3. Apple-Tastatur: Magic Keyboard mit Touch ID jetzt ohne iMac erhältlich
    Apple-Tastatur
    Magic Keyboard mit Touch ID jetzt ohne iMac erhältlich

    Apple verkauft das Magic Keyboard mit Fingerabdruckscanner Touch ID nun auch einzeln - mit und ohne Ziffernblock.

_fly_ 02. Dez 2020

Absolut! Es ist die alte Leier: Frauen verdienen weniger als Männer. Klar, weil sie...

wurstdings 25. Nov 2020

Das ist Quatsch, schön aussehen ist höchst subjektiv. Für mich sehen Leute im Anzug...

PrinzessinArabella 23. Nov 2020

WAS IST ONLYFANS!!?

Bilbobeutlin123 23. Nov 2020

Doch doch. Lass das Mal andere Entwickeln. Sonst werden wieder alte weiße cis Männer von...



  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Schnäppchen • Speicherwoche bei Saturn Samsung • C27RG54FQU, 27 Zoll, curved 203,55€ • Bosch Professional Werkzeuge und Messtechnik • Samsung Galaxy Vorbesteller-Aktion • Speicherwoche bei Media Markt • 15% auf Xiaomi-Technik • Hisense UHD-Fernseher • Saturn: 1 Produkt zahlen, 2 erhalten [Werbung]
    •  /