Abo
  • Services:

Amazon Rekognition: Dunkelhäutige US-Politiker werden öfter falsch erkannt

Amazon Rekognition steht wieder in der Kritik: Aclu hat die US-Kongressabgeordneten von der Bilderkennung analysieren lassen und kritisiert Voreingenommenheit. Das System erkennt unverhältnismäßig viele dunkelhäutige Personen falsch. Amazon rechtfertigt sich.

Artikel veröffentlicht am ,
28 Personen wurden falsch identifiziert.
28 Personen wurden falsch identifiziert. (Bild: Aclu)

Die American Civil Liberties Union (Aclu) beschuldigt das Gesichtserkennungssystem Amazon Rekognition erneut, ungenau und mit Blick auf verschiedene Völkergruppen voreingenommen zu sein. Um das zu beweisen, ließ die Organisation die Motive aller 535 US-Kongressabgeordneten vom System analysieren. Davon wurden 28 Personen falsch identifiziert - ein Prozentsatz von etwa 5,3 Prozent. Das Problem: Von diesen Identifizierten sind 40 Prozent Menschen mit dunkler Hautfarbe, obwohl diese im Kongress nur 20 Prozent ausmachen. Die Grundlage des maschinellen Lernmodells ist eine Datenbank mit 25.000 Bildern von US-Bürgern im ganzen Land.

Stellenmarkt
  1. PROTAKT Projekte & Business Software AG, Bad Nauheim
  2. AOK - Die Gesundheitskasse für Niedersachsen, Hannover

Dieses Ungleichgewicht nutzt Aclu als Argument, Rekognition als falsch und voreingenommen darzustellen. "Dunkelhäutige Bürger sind sowieso schon unverhältnismäßig von Polizeipraktiken betroffen", heißt es in der Publikation. Ein rassistisch anmutendes System könne diese Vorurteile noch verstärken. Ein Szenario nennt die Organisation ebenfalls: "Es ist nicht schwierig, sich vorzustellen, dass ein Polizeibeamter ein Match erhält, das die vor ihm stehende Person schon einmal wegen illegalen Waffentragens festgenommen worden sei, und er dadurch noch voreingenommener auf das Gegenüber zugeht."

Amazon reagiert

Rekognition wird bereits in einigen US-Polizeibehörden zu Testzwecken eingesetzt. Polizeiabschnitte, die es nutzen, zahlen für die Software offenbar nur etwa 12 US-Dollar im Monat. Der Test kostete Aclu nach eigenen Angaben ebenfalls nur 12,33 US-Dollar. Im US-IT-Magazin The Verge verteidigte Amazon sein Produkt. Aclu habe zu Testzwecken nur die Standardversion genutzt, die einen Genauigkeitsgrenzwert von 80 Prozent anwende. Das bedeutet, wenn sich Rekognition zu 80 Prozent bei einem vorliegenden Bild sicher ist, ist es ein Match.

"Während 80 Prozent Genauigkeit für Bilder von Hunden, Stühlen und andere Social-Media-Anwendungen ausreicht, wäre das für das Identifizieren von Individuen unangebracht", sagte ein Sprecher des Unternehmens. Amazon empfiehlt dafür die Variante mit 95 Prozent Genauigkeit.

Anzumerken ist, dass für eine akkurate Bildererkennung eine Datenbank von 25.000 Fotos recht wenig ist. Vor allem wenn davon etwa 70 Prozent weiße Bürger sind, sollten die Fotos die ethnische Verteilung in den USA widerspiegeln. Trotzdem ist das ein Problem - das aber auch Konkurrenten wie Microsoft, IBM und Face++ haben.



Anzeige
Spiele-Angebote
  1. 1,69€
  2. 59,99€ mit Vorbesteller-Preisgarantie (Release 05.10.)
  3. 33,99€
  4. 59,98€ mit Vorbesteller-Preisgarantie (Release 12.10.)

Berndinio 29. Jul 2018 / Themenstart

Wir sollten die Sonne wegen Rassismus verklagen

Hotohori 28. Jul 2018 / Themenstart

Das kommt vermutlich eher hin. ;)

Hotohori 28. Jul 2018 / Themenstart

Für Software sollte das überhaupt keine Rolle spielen, spielt es aber wegen der...

tg-- 28. Jul 2018 / Themenstart

Das ist die Berliner Variante von "Wache", "Inspektion", oder "Revier", und wird auch...

colon 28. Jul 2018 / Themenstart

Nur sind wir seit Jahrtausenden darauf traniert Menschen unterscheiden zu können und...

Kommentieren


Folgen Sie uns
       


Reflections Raytracing Demo (RTX 2080 Ti vs. GTX 1080 Ti)

Wir haben die Reflections Raytracing Demo auf einer Nvidia Geforce RTX 2080 Ti und auf einer GTX 1080 Ti ablaufen lassen.

Reflections Raytracing Demo (RTX 2080 Ti vs. GTX 1080 Ti) Video aufrufen
Lenovo Thinkpad T480s im Test: Das trotzdem beste Business-Notebook
Lenovo Thinkpad T480s im Test
Das trotzdem beste Business-Notebook

Mit dem Thinkpad T480s verkauft Lenovo ein exzellentes 14-Zoll-Business-Notebook. Anschlüsse und Eingabegeräte überzeugen uns - leider ist aber die CPU konservativ eingestellt und ein gutes Display kostet extra.
Ein Test von Marc Sauter und Sebastian Grüner

  1. Thinkpad E480/E485 im Test AMD gegen Intel in Lenovos 14-Zoll-Notebook
  2. Lenovo Das Thinkpad P1 ist das X1 Carbon als Workstation
  3. Thinkpad Ultra Docking Station im Test Das USB-Typ-C-Dock mit robuster Mechanik

Gesetzesentwurf: So will die Regierung den Abmahnmissbrauch eindämmen
Gesetzesentwurf
So will die Regierung den Abmahnmissbrauch eindämmen

Obwohl nach Inkrafttreten der DSGVO eine Abmahnwelle ausgeblieben ist, will Justizministerin Barley nun gesetzlich gegen missbräuchliche Abmahnungen vorgehen. Damit soll auch der "fliegende Gerichtsstand" im Wettbewerbsrecht abgeschafft werden.
Von Friedhelm Greis


    iPhone Xs, Xs Max und Xr: Wer unterstützt die eSIM in den neuen iPhones?
    iPhone Xs, Xs Max und Xr
    Wer unterstützt die eSIM in den neuen iPhones?

    Apples neue iPhones haben neben dem Nano-SIM-Slot eine eingebaute eSIM, womit der Konzern erstmals eine Dual-SIM-Lösung in seinen Smartphones realisiert. Die Auswahl an Netzanbietern, die eSIMs unterstützen, ist in Deutschland, Österreich und der Schweiz aber eingeschränkt - ein Überblick.
    Von Tobias Költzsch

    1. Apple Das iPhone Xr macht's billiger und bunter
    2. Apple iPhones sollen Stiftunterstützung erhalten
    3. XMM 7560 Intel startet Serienfertigung für iPhone-Modem

      •  /