Maschinelles Lernen: Gesichtserkennung ist zuverlässig - bei weißen Männern

Bei weißen Männern funktioniert Gesichtserkennung mit 99 Prozent Genauigkeit, ganz anders ist es bei schwarzen Frauen. Das zeigt die Studie einer MIT-Informatikerin, die Geschlechterzuordnung untersucht hat. Betroffen sind etwa Systeme von Microsoft und IBM.

Artikel veröffentlicht am ,
Schwarze Frauen werden sehr ungenau erkannt, weiße Männer nicht.
Schwarze Frauen werden sehr ungenau erkannt, weiße Männer nicht. (Bild: Joy Buolamwini/MIT)

Algorithmen zur Gesichtserkennung funktionieren nicht bei allen Hauttönen und Geschlechtern gleich gut. Das ergibt eine Studie der Informatikerin Joy Buolamwini des Massachusetts Institute of Technology (MIT) laut einem Bericht der New York Times. Boulamwini hat Algorithmen untersucht, die Gesichter einem Geschlecht zuordnen, und zwar die Machine-Learning-Systeme von Microsoft, IBM und Face++. Letzteres wird in Produkten von Kunden wie Lenovo und Dell verwendet.

Stellenmarkt
  1. Wissenschaftlicher Mitarbeiter (m/w/d) im Bereich Künstliche Intelligenz und Virtual / Augmented Reality
    Hochschule Emden-Leer Personalabteilung, Leer
  2. Scrum Master (m/f/d)
    Schaeffler Technologies AG & Co. KG, Nürnberg
Detailsuche

Demnach werden männliche weiße Personen von einigen viel genutzten Machine-Learning-Systemen am besten erkannt, die Fehlerquote wird umso höher, je dunkler die Hautfarbe und ist am höchsten bei schwarzen Frauen. Der Studie zufolge wurde das Geschlecht von etwa 99 Prozent der weißen Männer aus einer Stichprobe von 385 Fotos erkannt. Bei weißen Frauen sank die Quote bereits auf 93 Prozent, bei 296 ausgesuchten Bildern. Aus 318 Bildern wurden nur 88 Prozent der männlichen Personen mit dunklerer Hautfarbe auch als Männer erkannt. Bei 271 Bildern von dunkelhäutigen Frauen sind Gesichtserkennungsalgorithmen nur zu 75 Prozent akkurat.

Dabei erzielten die Algorithmen von Microsoft noch die besseren Ergebnisse gegenüber IBM und Face++: Sie erkannten 21 Prozent der dunkelhäutigen Frauen nicht, während die Fehlerquote bei den Konkurrenten um 35 Prozent lag. Bisher sei nur vermutet worden, dass Algorithmen bei verschiedenen Bevölkerungsgruppen unterschiedlich funktionierten, sagte Sorelle Friedler vom Haverford College der Zeitung. Die Studie weise den Zusammenhang erstmals empirisch nach.

Wenig Referenzmaterial bei dunkelhäutigen Frauen

Für die Ungenauigkeiten bei der Gesichtserkennung kommen verschiedene Gründe in Betracht. Zum einen sind Algorithmen nur so klug wie die ihnen zur Verfügung gestellten Daten - und spiegeln deren rassistische oder sexistische Tendenzen wider. So sind laut New York Times auf etwa 75 Prozent der Referenzbilder, die der Software zum Lernen bereitgestellt werden, Männer abgebildet. Davon sind wiederum 80 Prozent weiß. Die New York Times bezieht sich dabei auf eine weitere Forschungsstudie.

  • Weiße Frauen werden zu sieben Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Weiße Männer werden zu einem Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Weiße Frauen werden zu sieben Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Weiße Männer werden zu einem Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Weiße Frauen werden zu sieben Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Weiße Männer werden zu einem Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Dunkelhäutigere Frauen werden zu 35 Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Dunkelhäutigere Männer werden zu zwölf Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Dunkelhäutigere Frauen werden zu 35 Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Dunkelhäutigere Männer werden zu zwölf Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Dunkelhäutigere Frauen werden zu 35 Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Dunkelhäutigere Männer werden zu zwölf Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
Weiße Frauen werden zu sieben Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
Golem Akademie
  1. IT-Fachseminare der Golem Akademie
    Live-Workshops zu Schlüsselqualifikationen
  2. 1:1-Videocoaching mit Golem Shifoo
    Berufliche Herausforderungen meistern
  3. Online-Sprachkurse mit Golem & Gymglish
    Kurze Lektionen, die funktionieren
Weitere IT-Trainings

Zum anderen könnten auch technische Aspekte einen Einfluss haben: So erleichtern Kontraste Algorithmen das Unterscheiden von Formen. Diese sind bei weißen Gesichtern höher. Außerdem könnte die Vielfalt der Frisuren bei Frauen die Zuordnung zu einem Geschlecht erschweren.

Buolamwini will das Bewusstsein in der Öffentlichkeit für die von ihr nachgewiesene Problematik wecken. Sie selbst habe als weibliche Afroamerikanerin während ihres Studiums erlebt, dass Algorithmen ihr Gesicht nicht erkannt hätten. Sie sagte der New York Times: "Okay, das ist ernst, Zeit, etwas zu tun". Das Ergebnis: die Algorithmic Justice League, ein Projekt, das sich dem Problem widmen soll.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Halbleiterfertigung
Aus 10 nm wird "Intel 7"

Intel orientiert sich vorerst an TSMC, will aber dank RibbonFets und PowerVias ab 2025 führend bei der Halbleiterfertigung sein.
Ein Bericht von Marc Sauter

Halbleiterfertigung: Aus 10 nm wird Intel 7
Artikel
  1. E-Motorräder: Yamaha will Verbrenner auch in 30 Jahren nicht aufgeben
    E-Motorräder
    Yamaha will Verbrenner auch in 30 Jahren nicht aufgeben

    Yamaha will den Verbrennungsmotor für seine Motorräder nicht ganz aufgeben. Selbst in 30 Jahren soll es noch Maschinen mit Auspuff geben.

  2. Form Energy: Eisen-Luft-Akku soll Energiespeicherprobleme lösen
    Form Energy
    Eisen-Luft-Akku soll Energiespeicherprobleme lösen

    Mit Geld von Bill Gates und Jeff Bezos sollen große, billige Akkus Strom für mehrere Tage speichern. Kann die Technik liefern, was sie verspricht?
    Eine Analyse von Frank Wunderlich-Pfeiffer

  3. iOS 14.7.1 und macOS Big Sur 11.5.1: Apple patcht aktiv ausgenutzte Mac- und iOS-Sicherheitslücke
    iOS 14.7.1 und macOS Big Sur 11.5.1
    Apple patcht aktiv ausgenutzte Mac- und iOS-Sicherheitslücke

    Apple-Nutzer müssen ihre Geräte mit iOS 14.7.1, iPadOS 14,7.1 und MacOS Big Sur 11.5.1 aktualisieren. Es gibt eine aktiv genutzte Sicherheitslücke.

gfa-g 12. Okt 2018

Schlechtere Gesichtserkennung bedeutet auch weniger Überwachungsmöglichkeiten.

beuteltier 11. Okt 2018

Finde ich nicht. Die Übertragung "nur weil es eine ungleichverteilung der Quantität in...

FedoraUser 14. Feb 2018

+1

whgreiner 13. Feb 2018

Leute, ich hab endlich die ultimative Lösung für das Problem gefunden: Hautfarbe ist...

pigzagzonie 13. Feb 2018

Ich wäre ja eher froh.



Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Schnäppchen • Bosch Professional Amazon-Exklusives günstiger • Samsung G7 27" QLED Curved WQHD 240Hz 459€ • Kingston Fury 32GB Kit 3200MHz 149,90€ • 3 für 2 & Sony-TV-Aktion bei MM • New World vorbestellbar ab 39,99€ • Alternate (u. a. Deepcool RGB LED-Streifen 10,99€) • Apple Days [Werbung]
    •  /