Abo
  • Services:

Amazon Rekognition: Dunkelhäutige US-Politiker werden öfter falsch erkannt

Amazon Rekognition steht wieder in der Kritik: Aclu hat die US-Kongressabgeordneten von der Bilderkennung analysieren lassen und kritisiert Voreingenommenheit. Das System erkennt unverhältnismäßig viele dunkelhäutige Personen falsch. Amazon rechtfertigt sich.

Artikel veröffentlicht am ,
28 Personen wurden falsch identifiziert.
28 Personen wurden falsch identifiziert. (Bild: Aclu)

Die American Civil Liberties Union (Aclu) beschuldigt das Gesichtserkennungssystem Amazon Rekognition erneut, ungenau und mit Blick auf verschiedene Völkergruppen voreingenommen zu sein. Um das zu beweisen, ließ die Organisation die Motive aller 535 US-Kongressabgeordneten vom System analysieren. Davon wurden 28 Personen falsch identifiziert - ein Prozentsatz von etwa 5,3 Prozent. Das Problem: Von diesen Identifizierten sind 40 Prozent Menschen mit dunkler Hautfarbe, obwohl diese im Kongress nur 20 Prozent ausmachen. Die Grundlage des maschinellen Lernmodells ist eine Datenbank mit 25.000 Bildern von US-Bürgern im ganzen Land.

Stellenmarkt
  1. CSL Behring GmbH, Marburg, Hattersheim am Main
  2. Robert Bosch GmbH, Stuttgart

Dieses Ungleichgewicht nutzt Aclu als Argument, Rekognition als falsch und voreingenommen darzustellen. "Dunkelhäutige Bürger sind sowieso schon unverhältnismäßig von Polizeipraktiken betroffen", heißt es in der Publikation. Ein rassistisch anmutendes System könne diese Vorurteile noch verstärken. Ein Szenario nennt die Organisation ebenfalls: "Es ist nicht schwierig, sich vorzustellen, dass ein Polizeibeamter ein Match erhält, das die vor ihm stehende Person schon einmal wegen illegalen Waffentragens festgenommen worden sei, und er dadurch noch voreingenommener auf das Gegenüber zugeht."

Amazon reagiert

Rekognition wird bereits in einigen US-Polizeibehörden zu Testzwecken eingesetzt. Polizeiabschnitte, die es nutzen, zahlen für die Software offenbar nur etwa 12 US-Dollar im Monat. Der Test kostete Aclu nach eigenen Angaben ebenfalls nur 12,33 US-Dollar. Im US-IT-Magazin The Verge verteidigte Amazon sein Produkt. Aclu habe zu Testzwecken nur die Standardversion genutzt, die einen Genauigkeitsgrenzwert von 80 Prozent anwende. Das bedeutet, wenn sich Rekognition zu 80 Prozent bei einem vorliegenden Bild sicher ist, ist es ein Match.

"Während 80 Prozent Genauigkeit für Bilder von Hunden, Stühlen und andere Social-Media-Anwendungen ausreicht, wäre das für das Identifizieren von Individuen unangebracht", sagte ein Sprecher des Unternehmens. Amazon empfiehlt dafür die Variante mit 95 Prozent Genauigkeit.

Anzumerken ist, dass für eine akkurate Bildererkennung eine Datenbank von 25.000 Fotos recht wenig ist. Vor allem wenn davon etwa 70 Prozent weiße Bürger sind, sollten die Fotos die ethnische Verteilung in den USA widerspiegeln. Trotzdem ist das ein Problem - das aber auch Konkurrenten wie Microsoft, IBM und Face++ haben.



Anzeige
Top-Angebote
  1. 127,90€ (effektiver Preis für SSD 107,90€)
  2. (u. a. Battlefield 5, FIFA 19, Battlefront 2, NHL 19)
  3. (u. a. FIFA 19, New Super Mario Bros. U Deluxe, Donkey Kong Contry)
  4. (aktuell u. a. Ryzen 7 2700X 299€, Playstation-Store-Guthaben für 18,40€ statt 20€ oder...

Berndinio 29. Jul 2018

Wir sollten die Sonne wegen Rassismus verklagen

Hotohori 28. Jul 2018

Das kommt vermutlich eher hin. ;)

Hotohori 28. Jul 2018

Für Software sollte das überhaupt keine Rolle spielen, spielt es aber wegen der...

tg-- 28. Jul 2018

Das ist die Berliner Variante von "Wache", "Inspektion", oder "Revier", und wird auch...

colon 28. Jul 2018

Nur sind wir seit Jahrtausenden darauf traniert Menschen unterscheiden zu können und...


Folgen Sie uns
       


Razer Hypersense angesehen (CES 2019)

Razer hat Vibrationsmotoren in Maus, Handballenablage und Stuhl verbaut - und wir haben uns auf der CES 2019 durchrütteln lassen.

Razer Hypersense angesehen (CES 2019) Video aufrufen
Nubia Red Magic Mars im Hands On: Gaming-Smartphone mit Top-Ausstattung für 390 Euro
Nubia Red Magic Mars im Hands On
Gaming-Smartphone mit Top-Ausstattung für 390 Euro

CES 2019 Mit dem Red Magic Mars bringt Nubia ein interessantes und vor allem verhältnismäßig preiswertes Gaming-Smartphone nach Deutschland. Es hat einen Leistungsmodus und Schulter-Sensortasten, die beim Zocken helfen können.
Ein Hands on von Tobias Költzsch

  1. Hypersense-Prototypen ausprobiert Razers Rumpel-Peripherie sorgt für Immersion
  2. ATH-ANC900BT Audio Technica zeigt neuen ANC-Kopfhörer
  3. Smart Clock Lenovo setzt bei Echo-Spot-Variante auf Google Assistant

Kaufberatung: Die richtige CPU und Grafikkarte
Kaufberatung
Die richtige CPU und Grafikkarte

Bei PC-Hardware gab es 2018 viele Neuerungen: AMD hat 32 CPU-Kerne etabliert, Intel verkauft immerhin acht Cores statt vier und Nvidias Turing-Grafikkarten folgten auf die zwei Jahre alten Pascal-Modelle. Wir beraten bei Komponenten und geben einen Ausblick auf die kommenden Monate.
Von Marc Sauter

  1. Fujian Jinhua USA verhängen Exportverbot gegen chinesischen DRAM-Fertiger
  2. Halbleiter China pumpt 47 Milliarden US-Dollar in eigene Chip-Industrie
  3. Dell Neue Optiplex-Systeme in drei Größen und mit Dual-GPUs

Slighter im Hands on: Wenn das Feuerzeug smarter als der Raucher ist
Slighter im Hands on
Wenn das Feuerzeug smarter als der Raucher ist

CES 2019 Mit Slighter könnte ausgerechnet ein Feuerzeug Rauchern beim Aufhören helfen: Ausgehend von den Rauchgewohnheiten erstellt es einen Plan - und gibt nur zu ganz bestimmten Zeiten eine Flamme.
Ein Hands on von Tobias Költzsch

  1. Smart Tab Lenovo zeigt Mischung aus Android-Tablet und Echo Show
  2. Royole Flexpai im Hands on Display top, Software flop
  3. Alienware Area 51m angesehen Aufrüstbares Gaming-Notebook mit frischem Design

    •  /