Abo
  • Services:
Anzeige
Schwarze Frauen werden sehr ungenau erkannt, weiße Männer nicht.
Schwarze Frauen werden sehr ungenau erkannt, weiße Männer nicht. (Bild: Joy Buolamwini/MIT)

Maschinelles Lernen: Gesichtserkennung ist zuverlässig - bei weißen Männern

Schwarze Frauen werden sehr ungenau erkannt, weiße Männer nicht.
Schwarze Frauen werden sehr ungenau erkannt, weiße Männer nicht. (Bild: Joy Buolamwini/MIT)

Bei weißen Männern funktioniert Gesichtserkennung mit 99 Prozent Genauigkeit, ganz anders ist es bei schwarzen Frauen. Das zeigt die Studie einer MIT-Informatikerin, die Geschlechterzuordnung untersucht hat. Betroffen sind etwa Systeme von Microsoft und IBM.

Algorithmen zur Gesichtserkennung funktionieren nicht bei allen Hauttönen und Geschlechtern gleich gut. Das ergibt eine Studie der Informatikerin Joy Buolamwini des Massachusetts Institute of Technology (MIT) laut einem Bericht der New York Times. Boulamwini hat Algorithmen untersucht, die Gesichter einem Geschlecht zuordnen, und zwar die Machine-Learning-Systeme von Microsoft, IBM und Face++. Letzteres wird in Produkten von Kunden wie Lenovo und Dell verwendet.

Anzeige

Demnach werden männliche weiße Personen von einigen viel genutzten Machine-Learning-Systemen am besten erkannt, die Fehlerquote wird umso höher, je dunkler die Hautfarbe und ist am höchsten bei schwarzen Frauen. Der Studie zufolge wurde das Geschlecht von etwa 99 Prozent der weißen Männer aus einer Stichprobe von 385 Fotos erkannt. Bei weißen Frauen sank die Quote bereits auf 93 Prozent, bei 296 ausgesuchten Bildern. Aus 318 Bildern wurden nur 88 Prozent der männlichen Personen mit dunklerer Hautfarbe auch als Männer erkannt. Bei 271 Bildern von dunkelhäutigen Frauen sind Gesichtserkennungsalgorithmen nur zu 75 Prozent akkurat.

Dabei erzielten die Algorithmen von Microsoft noch die besseren Ergebnisse gegenüber IBM und Face++: Sie erkannten 21 Prozent der dunkelhäutigen Frauen nicht, während die Fehlerquote bei den Konkurrenten um 35 Prozent lag. Bisher sei nur vermutet worden, dass Algorithmen bei verschiedenen Bevölkerungsgruppen unterschiedlich funktionierten, sagte Sorelle Friedler vom Haverford College der Zeitung. Die Studie weise den Zusammenhang erstmals empirisch nach.

Wenig Referenzmaterial bei dunkelhäutigen Frauen

Für die Ungenauigkeiten bei der Gesichtserkennung kommen verschiedene Gründe in Betracht. Zum einen sind Algorithmen nur so klug wie die ihnen zur Verfügung gestellten Daten - und spiegeln deren rassistische oder sexistische Tendenzen wider. So sind laut New York Times auf etwa 75 Prozent der Referenzbilder, die der Software zum Lernen bereitgestellt werden, Männer abgebildet. Davon sind wiederum 80 Prozent weiß. Die New York Times bezieht sich dabei auf eine weitere Forschungsstudie.

  • Weiße Frauen werden zu sieben Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Weiße Männer werden zu einem Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Weiße Frauen werden zu sieben Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Weiße Männer werden zu einem Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Weiße Frauen werden zu sieben Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Weiße Männer werden zu einem Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Dunkelhäutigere Frauen werden zu 35 Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Dunkelhäutigere Männer werden zu zwölf Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Dunkelhäutigere Frauen werden zu 35 Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Dunkelhäutigere Männer werden zu zwölf Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Dunkelhäutigere Frauen werden zu 35 Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
  • Dunkelhäutigere Männer werden zu zwölf Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)
Weiße Frauen werden zu sieben Prozent nicht erkannt. (Bild: Joy Buolamwini/MIT)

Zum anderen könnten auch technische Aspekte einen Einfluss haben: So erleichtern Kontraste Algorithmen das Unterscheiden von Formen. Diese sind bei weißen Gesichtern höher. Außerdem könnte die Vielfalt der Frisuren bei Frauen die Zuordnung zu einem Geschlecht erschweren.

Buolamwini will das Bewusstsein in der Öffentlichkeit für die von ihr nachgewiesene Problematik wecken. Sie selbst habe als weibliche Afroamerikanerin während ihres Studiums erlebt, dass Algorithmen ihr Gesicht nicht erkannt hätten. Sie sagte der New York Times: "Okay, das ist ernst, Zeit, etwas zu tun". Das Ergebnis: die Algorithmic Justice League, ein Projekt, das sich dem Problem widmen soll.


eye home zur Startseite
FedoraUser 14. Feb 2018

+1

Themenstart

FlyingTHunder 13. Feb 2018

"Wenn man davon ausgeht, dass es nur männliche, weiße Menschen..." muss ja nicht gleich...

Themenstart

whgreiner 13. Feb 2018

Leute, ich hab endlich die ultimative Lösung für das Problem gefunden: Hautfarbe ist...

Themenstart

otraupe 13. Feb 2018

Ich wäre ja eher froh.

Themenstart

m8Flo 13. Feb 2018

Dumme Rassismus- und Sexismusvorwürfe, wo man hinschaut. ;)

Themenstart

Kommentieren



Anzeige

Stellenmarkt
  1. Robert Bosch GmbH, Stuttgart-Feuerbach
  2. w11k GmbH, Esslingen am Neckar
  3. Robert Bosch GmbH, Abstatt
  4. dm-drogerie markt GmbH + Co. KG, Karlsruhe


Anzeige
Hardware-Angebote
  1. 129,99€ (219,98€ für zwei)

Folgen Sie uns
       


  1. Börsengang

    AWS-Verzicht spart Dropbox Millionen US-Dollar

  2. LAA

    Nokia und T-Mobile erreichen 1,3 GBit/s mit LTE

  3. Alcatel 1X

    Android-Go-Smartphone mit 2:1-Display kommt für 100 Euro

  4. Apple

    Ladestation Airpower soll im März 2018 auf den Markt kommen

  5. Radeon Software Adrenalin 18.2.3

    AMD-Treiber macht Sea of Thieves schneller

  6. Lifebook U938

    Das fast perfekte Business-Ultrabook bekommt vier Kerne

  7. Wochenrückblick

    Früher war nicht alles besser

  8. Raumfahrt

    Falsch abgebogen wegen Eingabefehler

  9. Cloud

    AWS bringt den Appstore für Serverless-Software

  10. Free-to-Play-Strategie

    Total War Arena beginnt den Betabetrieb



Haben wir etwas übersehen?

E-Mail an news@golem.de


Anzeige
Homepod im Test: Smarter Lautsprecher für den Apple-affinen Popfan
Homepod im Test
Smarter Lautsprecher für den Apple-affinen Popfan
  1. Rückstände Homepod macht weiße Ringe auf Holzmöbeln
  2. Smarter Lautsprecher Homepod schwer reparierbar
  3. Smarter Lautsprecher Homepod-Reparaturen kosten fast so viel wie ein neues Gerät

Indiegames-Rundschau: Tiefseemonster, Cyberpunks und ein Kelte
Indiegames-Rundschau
Tiefseemonster, Cyberpunks und ein Kelte
  1. Indiegames-Rundschau Krawall mit Knetmännchen und ein Mann im Fass
  2. Games 2017 Die besten Indiespiele des Jahres

HP Omen X VR im Test: VR auf dem Rücken kann nur teils entzücken
HP Omen X VR im Test
VR auf dem Rücken kann nur teils entzücken
  1. 3D Rudder Blackhawk Mehr Frags mit Fußschlaufen
  2. Kreativ-Apps für VR-Headsets Austoben im VR-Atelier
  3. Apps und Games für VR-Headsets Der virtuelle Blade Runner und Sport mit Sparc

  1. Re: Android One war mal das Android Go

    Blindie | 10:47

  2. Re: Autos brauchen keinen extra Ton

    elf | 10:47

  3. Re: Abrollgeräusch?

    BLi8819 | 10:47

  4. Re: Geht heulen!

    wire-less | 10:41

  5. Re: Wir zahlen 45¤ für 16 Mbit/s

    ternot | 10:35


  1. 10:28

  2. 22:05

  3. 19:00

  4. 11:53

  5. 11:26

  6. 11:14

  7. 09:02

  8. 17:17


  1. Themen
  2. A
  3. B
  4. C
  5. D
  6. E
  7. F
  8. G
  9. H
  10. I
  11. J
  12. K
  13. L
  14. M
  15. N
  16. O
  17. P
  18. Q
  19. R
  20. S
  21. T
  22. U
  23. V
  24. W
  25. X
  26. Y
  27. Z
  28. #
 
    •  / 
    Zum Artikel