Amazon Rekognition: Dunkelhäutige US-Politiker werden öfter falsch erkannt

Amazon Rekognition steht wieder in der Kritik: Aclu hat die US-Kongressabgeordneten von der Bilderkennung analysieren lassen und kritisiert Voreingenommenheit. Das System erkennt unverhältnismäßig viele dunkelhäutige Personen falsch. Amazon rechtfertigt sich.

Artikel veröffentlicht am ,
28 Personen wurden falsch identifiziert.
28 Personen wurden falsch identifiziert. (Bild: Aclu)

Die American Civil Liberties Union (Aclu) beschuldigt das Gesichtserkennungssystem Amazon Rekognition erneut, ungenau und mit Blick auf verschiedene Völkergruppen voreingenommen zu sein. Um das zu beweisen, ließ die Organisation die Motive aller 535 US-Kongressabgeordneten vom System analysieren. Davon wurden 28 Personen falsch identifiziert - ein Prozentsatz von etwa 5,3 Prozent. Das Problem: Von diesen Identifizierten sind 40 Prozent Menschen mit dunkler Hautfarbe, obwohl diese im Kongress nur 20 Prozent ausmachen. Die Grundlage des maschinellen Lernmodells ist eine Datenbank mit 25.000 Bildern von US-Bürgern im ganzen Land.

Stellenmarkt
  1. Technische Fachkraft für das Medienzentrum (w-m-d)
    Kreis Offenbach, Dreieich
  2. Requirements Engineer Solvency II (m/w/d)
    ITERGO Informationstechnologie GmbH, Düsseldorf, Hamburg
Detailsuche

Dieses Ungleichgewicht nutzt Aclu als Argument, Rekognition als falsch und voreingenommen darzustellen. "Dunkelhäutige Bürger sind sowieso schon unverhältnismäßig von Polizeipraktiken betroffen", heißt es in der Publikation. Ein rassistisch anmutendes System könne diese Vorurteile noch verstärken. Ein Szenario nennt die Organisation ebenfalls: "Es ist nicht schwierig, sich vorzustellen, dass ein Polizeibeamter ein Match erhält, das die vor ihm stehende Person schon einmal wegen illegalen Waffentragens festgenommen worden sei, und er dadurch noch voreingenommener auf das Gegenüber zugeht."

Amazon reagiert

Rekognition wird bereits in einigen US-Polizeibehörden zu Testzwecken eingesetzt. Polizeiabschnitte, die es nutzen, zahlen für die Software offenbar nur etwa 12 US-Dollar im Monat. Der Test kostete Aclu nach eigenen Angaben ebenfalls nur 12,33 US-Dollar. Im US-IT-Magazin The Verge verteidigte Amazon sein Produkt. Aclu habe zu Testzwecken nur die Standardversion genutzt, die einen Genauigkeitsgrenzwert von 80 Prozent anwende. Das bedeutet, wenn sich Rekognition zu 80 Prozent bei einem vorliegenden Bild sicher ist, ist es ein Match.

"Während 80 Prozent Genauigkeit für Bilder von Hunden, Stühlen und andere Social-Media-Anwendungen ausreicht, wäre das für das Identifizieren von Individuen unangebracht", sagte ein Sprecher des Unternehmens. Amazon empfiehlt dafür die Variante mit 95 Prozent Genauigkeit.

Golem Akademie
  1. Jira für Anwender: virtueller Ein-Tages-Workshop
    4. Februar 2022, virtuell
  2. Linux-Shellprogrammierung: virtueller Vier-Tage-Workshop
    8.–11. März 2022, Virtuell
Weitere IT-Trainings

Anzumerken ist, dass für eine akkurate Bildererkennung eine Datenbank von 25.000 Fotos recht wenig ist. Vor allem wenn davon etwa 70 Prozent weiße Bürger sind, sollten die Fotos die ethnische Verteilung in den USA widerspiegeln. Trotzdem ist das ein Problem - das aber auch Konkurrenten wie Microsoft, IBM und Face++ haben.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Berndinio 29. Jul 2018

Wir sollten die Sonne wegen Rassismus verklagen

Hotohori 28. Jul 2018

Das kommt vermutlich eher hin. ;)

Hotohori 28. Jul 2018

Für Software sollte das überhaupt keine Rolle spielen, spielt es aber wegen der...

tg-- 28. Jul 2018

Das ist die Berliner Variante von "Wache", "Inspektion", oder "Revier", und wird auch...

colon 28. Jul 2018

Nur sind wir seit Jahrtausenden darauf traniert Menschen unterscheiden zu können und...



Aktuell auf der Startseite von Golem.de
Einführung in MQTT
Alles läuft über den Broker

MQTT eignet sich hervorragend für Sensoren und IoT-Anwendungen. Wir geben eine Einführung in das Protokoll für Machine-to-Machine-Kommunikation.
Von Florian Bottke

Einführung in MQTT: Alles läuft über den Broker
Artikel
  1. Javascript: Community startet Fork für sabotiertes NPM-Paket
    Javascript
    Community startet Fork für sabotiertes NPM-Paket

    Eines der sabotierten NPM-Pakete wird nun als Community-Fork weitergeführt. Fragen zum Umgang mit dem Javascript-Repository bleiben jedoch.

  2. Elektromobilität: Ladesäulen für BP bald profitabler als Tankstellen
    Elektromobilität
    Ladesäulen für BP bald profitabler als Tankstellen

    BP steht kurz davor, dass Schnellladestationen profitabler sind als Tankstellen. Das könnte zusätzliche Investitionen in Ladesäulen bringen.

  3. Bitcoin, Ethereum: Was steuerlich bei Kryptowährungen gilt
    Bitcoin, Ethereum
    Was steuerlich bei Kryptowährungen gilt

    Kryptowährungen wie Bitcoin sind unter Anlegern beliebt - doch wie muss man die Gewinne eigentlich versteuern?

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Bosch Professional zu Bestpreisen • WSV bei MediaMarkt • Asus Vivobook Flip 14" 8GB 512GB SSD 567€ • RX 6900 16GB 1.489€ • MindStar (u.a. WD Blue 3D 1TB 79€, PowerColor RX 6600 Hellhound 529€) • Gainward RTX 3080 12GB 1.639€ [Werbung]
    •  /