Abo
  • Services:

Rekognition: Amazons Gesichtserkennung hat Schwierigkeiten mit Frauen

Neue Probleme mit Amazons Gesichtserkennungssystem Rekognition: Das System hat Schwierigkeiten, Frauen von Männern zu unterscheiden. Das gilt besonders für Frauen mit dunkler Hautfarbe, mit der das System ohnehin Mühe hat. Amazon weist die Kritik zurück.

Artikel veröffentlicht am ,
Gesichtserkennungssystem (Symbolbild): jede fünfte Frau als Mann identifiziert
Gesichtserkennungssystem (Symbolbild): jede fünfte Frau als Mann identifiziert (Bild: John MacDougall/AFP/Getty Images)

Probleme mit dunkler Hautfarbe hat sie schon länger. Jetzt kommen Probleme mit Frauen hinzu - erst recht mit Frauen dunkler Hautfarbe: Wissenschaftler des Massachusetts Institute of Technology (MIT) haben neue Schwachstellen in Amazons Gesichtserkennungssoftware Rekognition aufgedeckt.

Stellenmarkt
  1. Zentiva Pharma GmbH, Berlin
  2. DLR Deutsches Zentrum für Luft- und Raumfahrt e.V., Braunschweig

Nach der Studie hat Rekognition Schwierigkeiten, Frauen als solche zu erkennen, in 19 Prozent der Fälle hielt es eine Frau für einen Mann. Noch schlechter war das Ergebnis bei Frauen mit dunkler Hautfarbe. Die hielt Rekognition sogar in 31 Prozent der Fälle für einen Mann.

Schon bei früheren Studien hatte sich gezeigt, dass Amazons Gesichtserkennungssoftware Probleme mit der Hautfarbe hat: Es identifiziert Menschen mit dunkler Haut häufiger falsch als solche mit heller Haut.

Bei der Geschlechtererkennung ist Rekognition deutlich schlechter als Systeme anderer Anbieter wie etwa Microsoft, IBM und Megvii, auch als Face++ bekannt. Diese drei hatten die MIT-Forscher im vergangenen Jahr kritisiert, weil ihre Software Schwierigkeiten hatte, schwarze Frauen zu erkennen. Alle drei reagierten jedoch und verbesserten ihre Software.

Anders Amazon: MIT-Studienleiterin Joy Buolamwini hatte Amazon-Chef Jeff Bezos im Juni vergangenen Jahres über die Ergebnisse informiert. Sie habe weder eine Antwort erhalten, noch habe Amazon das System verbessert, schreibt Buolamwini in einem Blogeintrag.

Gesichtsanalyse oder Gesichtserkennung?

Matt Wood, Leiter des Bereichs künstliche Intelligenz bei Amazon Web Services, verteidigte in einer Mitteilung das System. Die MIT-Forscher hätten die Gesichtsanalyse, nicht aber die Gesichtserkennung getestet, sagte er. Erstere identifiziere Gesichter in Videos oder Bildern und erfasse Attribute wie etwa, dass in dem Gesicht eine Brille vorhanden sei. Nur bei der Erkennung werde ein Gesicht gegen Gesichter auf den Fotos oder Videos abgeglichen.

Zudem hätten die MIT-Forscher eine ältere Version von Rekognition getestet. Amazon habe im November eine neue Version eingeführt. Bei eigenen Tests dieser Version habe Amazon keine Unterschiede bei der Erkennung des Geschlechts in den Ethnien gefunden.

US-Behörden nutzen Rekognition

Amazon hat Rekognition 2016 vorgestellt. Das System erkennt Menschen und Objekte in Videos und Bildern, wenn es über Vorlagen verfügt. Das Unternehmen vermarktet das System unter anderem an die Polizei. So ist es etwa bei der Polizei in Orlando, Florida, und im Sheriffbüro in Oregon im Einsatz.

Sehr zum Missfallen von Angestellten, Aktionären und Bürgerrechtlern: Die haben Amazon dafür mehrfach kritisiert. Sie befürchten, dass das System zur Überwachung eingesetzt wird und sehen darin eine Gefahr für die Privatsphäre der Bürger, gerade angesichts der aktuellen politischen Lage in den USA. Die Amazon-Geschäftsleitung lässt sich jedoch nicht beirren und hat angekündigt, Rekognition auch weiter an US-Behörden zu verkaufen.



Anzeige
Top-Angebote
  1. (aktuell u. a. ADATA XPG GAMMIX D3 DDR4-3200 8 GB für 49,99€ + Versand)
  2. 229,99€
  3. (u. a. Plantronics RIG 800HS PS4/PC für 87€ und Indiana Jones - The Complete Adventures Blu-ray...
  4. (u. a. PSN Card 20€ für 17,99€, Assassin's Creed Odyssey für 24,99€ und Tropico 6 für 31...

quineloe 31. Jan 2019

Negative Vorurteile schon. Und so wie OP sie geschrieben hat, meinte er das 104% negativ.

hG0815 29. Jan 2019

Richtig, bei einer Frau mit Glatze wird das halt auch sehr schwer wenn sie nicht...

hans-peterr 29. Jan 2019

Ist eigentlich auch egal, ob Amazon jetzt denkt es wäre ein Mann oder eine Frau. Für die...

hans-peterr 28. Jan 2019

So ganz glaube ich nicht, dass Mädchen vor der Pubertät so rangeln wie jungen. Oder mit...

hans-peterr 28. Jan 2019

Die Ki misst bestimmt Abstände der Ohren und Größe der Nase. Dauert sicher nicht mehr...


Folgen Sie uns
       


Intel NUC8 (Crimson Canyon) - Test

Der NUC8 alias Crimson Canyon ist der erste Mini-PC mit einem 10-nm-Chip von Intel. Dessen Grafikeinheit ist aber deaktiviert, weshalb Intel noch eine Radeon RX 540 verlötet. Leider steckt im System eine Festplatte, weshalb der NUC8 sehr träge reagiert und vergleichsweise laut wird.

Intel NUC8 (Crimson Canyon) - Test Video aufrufen
Orientierungshilfe: Wie Webseiten Nutzer tracken dürfen - und wie nicht
Orientierungshilfe
Wie Webseiten Nutzer tracken dürfen - und wie nicht

Für viele Anbieter dürfte es schwierig werden, ihre Nutzer wie bisher zu tracken. In monatelangen Beratungen haben die deutschen Datenschützer eine 25-seitige Orientierungshilfe zum DSGVO-konformen Tracking ausgearbeitet.
Ein Bericht von Christiane Schulzki-Haddouti

  1. Cookie-Banner Deutsche Datenschützer spielen bei Nutzertracking auf Zeit
  2. Fossa EU erweitert Bug-Bounty-Programm für Open-Source-Software
  3. EU-Zertifizierung Neues Gesetz soll das Internet sicherer machen

Days Gone angespielt: Zombies, Bikes und die Sache mit der Benzinpumpe
Days Gone angespielt
Zombies, Bikes und die Sache mit der Benzinpumpe

Mit dem nettesten Biker seit Full Throttle: Das Actionspiel Days Gone schickt uns auf der PS4 ins ebenso große wie offene Abenteuer. Trotz brutaler Elemente ist die Atmosphäre erstaunlich positiv - beim Ausprobieren wären wir am liebsten in der Welt geblieben.
Von Peter Steinlechner


    Fitbit Versa Lite im Test: Eher smartes als sportliches Wearable
    Fitbit Versa Lite im Test
    Eher smartes als sportliches Wearable

    Sieht fast aus wie eine Apple Watch, ist aber viel günstiger: Golem.de hat die Versa Lite von Fitbit ausprobiert. Neben den Sport- und Fitnessfunktionen haben uns besonders der Appstore und das Angebot an spaßigen und ernsthaften Anwendungen interessiert.
    Von Peter Steinlechner

    1. Smartwatch Fitbit stellt Versa Lite für Einsteiger vor
    2. Inspire Fitbits neues Wearable gibt es nicht im Handel
    3. Charge 3 Fitbit stellt neuen Fitness-Tracker für 150 Euro vor

      •  /