Polizei: Gesichtserkennung beschuldigt den Falschen

Anhand von Gesichtserkennung hat die Detroiter Polizei einen Mann festgenommen. Er ist unschuldig.

Artikel veröffentlicht am ,
Ein 42-jähriger Mann wurde von Software fälschlich angeklagt.
Ein 42-jähriger Mann wurde von Software fälschlich angeklagt. (Bild: Aclu)

Mit Hilfe eines Gesichtserkennungsprogramms hat die Detroiter Polizei einen Mann wegen Uhrendiebstahls ausgemacht, der die Tat aber - wie sich später herausstellte - gar nicht begangen hat. Der 42-Jährige wurde festgenommen und verhört, wie die US-Zeitung New York Times (via npr) berichtet. Allerdings hatte die Software, der lediglich recht unscharfes Videomaterial einer Sicherheitskamera zur Verfügung stand, ihn mit dem wahren Täter verwechselt.

Stellenmarkt
  1. DevOps Software Engineer im Bereich "Software Factory" (m/w / divers)
    Continental AG, Frankfurt
  2. Projektmanager (m/w/d) Zentrallogistik - Schwerpunkt ERP
    Goldbeck GmbH, Bielefeld
Detailsuche

"Wenn ich auf das Bild dieses Typen schaue, sehe ich nur einen großen schwarzen Typen. Ich sehe keine Ähnlichkeit. Ich glaube, er sieht überhaupt nicht wie ich aus", sagte der Mann dem Bericht zufolge der Polizei, die ihm drei Fotos vom Täter und ein Abbild seines Führerscheins als Vergleich vorlegte. Er hielt sich das Foto des Täters neben das eigene Gesicht und sagte dem vor ihm sitzenden Polizisten: "Ich hoffe doch, Sie denken nicht, dass alle Schwarzen gleich aussehen."

Laut seines Anwaltsteams wurde der Mann 30 Stunden festgehalten, bis er unter der Bedingung, vor Gericht zu erscheinen, freigelassen wurde. Vor Richtern und Anwälten musste er aussagen - und wurde schlussendlich wegen unzureichender Beweise gegen ihn freigelassen. Zuvor hatte er sich mehrfach gegen die Behauptungen gewehrt und Gegenargumente gebracht. Offenbar nahm die Polizei diese Aussagen jedoch nicht ernst. "Sie haben ihm nicht einmal Fragen gestellt, bevor sie ihn festgenommen haben", sagte der Anwalt Phil Mayor, der für die Bürgerrechtsorganisation American Civil Liberties Union (Aclu) arbeitet. Diese hat auch über den Fall berichtet.

Polizei schränkt Nutzen von Software ein

Der Mann ist laut der Organisation in den USA wohl der erste Mensch, der durch Gesichtserkennungssoftware falsch angeklagt und daraufhin festgenommen wurde. Aclu setzt sich seit einiger Zeit gegen die Nutzung von Gesichtserkennung bei der Bekämpfung von Kriminalität ein.

Golem Karrierewelt
  1. Implementing Cisco Enterprise Wireless Networks (ENWLSI): virtueller Fünf-Tage-Workshop
    10.-14.10.2022, virtuell
  2. ITIL 4® Foundation: virtueller Zwei-Tage-Workshop
    10./11.10.2022, virtuell
Weitere IT-Trainings

Der Einsatz von Gesichtserkennungssoftware wurde von der Detroiter Polizei im Nachhinein eingeschränkt. Es dürfen nur noch schwere Fälle von Mord oder ähnlichen Straftaten damit untersucht werden. Außerdem dürfen nur noch höherauflösende Fotos für solche Analysen genutzt werden.

Der Autor meint dazu

Wichtige Arbeiten werden in der Zukunft von Software und KI übernommen, daran wird kein Weg vorbeiführen. Allerdings darf mit der Abgabe von Aufgaben keine Abgabe von Verantwortung erfolgen. Polizeibehörden stehen - wie auch andere - in der Pflicht, alle Seiten anzuhören, abzuwägen und Menschen nicht wegen ihrer Herkunft, ihrer Hautfarbe, ihres Geschlechts oder anderem bereits vorher zu schematisieren. Neue Technik darf die Menschenrechte nicht verletzen.

Dieser Fall beweist auch, dass sowohl die Software als auch die Menschen, die sie nutzen, für diese Technik noch nicht bereit zu sein scheinen. Auf den Betroffenen muss die Tatsache, dass der Polizeibeamte nicht gesehen hat, dass es sich um zwei unterschiedliche Personen handelt, rassistisch gewirkt haben.

Regierungen, aber auch Hersteller von KI-Systemen müssen Verantwortung übernehmen. Dabei geht es darum, Programme und Personen, die sie letztlich nutzen, zu schulen. Das erfordert klare Regeln und Initiative, nicht das Schieben von Verantwortung auf andere, wie es etwa Amazon bereits gezeigt hat.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


quineloe 13. Jan 2021

also okay wenn man nur einen überarbeiteteten Public defender bekommt, der schon mit...

FreiGeistler 26. Jun 2020

Oje. Das wird noch was werden... `:-(

chefin 26. Jun 2020

Woher du diese Erkenntniss hast ist unbekannt. Den Fakt ist, das nach dieser...

on(Golem.de) 26. Jun 2020

Hallo, ich musste erst einmal suchen, wo wir diese Formulierung geschrieben haben. Ich...



Aktuell auf der Startseite von Golem.de
Superbase V
Zendures Solarstation mit 6.400 Wh kommt mit hohem Rabatt

Vor dem Verkaufsstart über die eigene Webseite verkauft Zendure seine Superbase V über Kickstarter - mit teilweise fast 50 Prozent Rabatt.

Superbase V: Zendures Solarstation mit 6.400 Wh kommt mit hohem Rabatt
Artikel
  1. Tesla Optimus: Elon Musk zeigt Roboter-Prototyp
    Tesla Optimus
    Elon Musk zeigt Roboter-Prototyp

    Roboter könnten für Tesla aus Sicht von Elon Musk bedeutender werden als Elektroautos. Der Konzern zeigte seinen ersten Roboter-Prototypen.

  2. Microsofts E-Mail: Modern Auth in Exchange macht Admins Arbeit
    Microsofts E-Mail
    Modern Auth in Exchange macht Admins Arbeit

    Ab dem 1. Oktober 2022 müssen Exchange-Clients zwingend Microsofts moderne Authentifizierung nutzen. Das bedeutet Mehrarbeit.
    Eine Analyse von Oliver Nickel

  3. Google: Nutzer fordern Bluetooth-Freigabe für Stadia-Controller
    Google
    Nutzer fordern Bluetooth-Freigabe für Stadia-Controller

    Mit der Einstellung von Stadia können auch Tausende der speziellen Controller ohne ein Update nicht mehr drahtlos genutzt werden.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • MindStar (u. a. LC-Power LC-M27-QHD-240-C-K 389€) und Damn-Deals (u. a. Kingston A400 240/480 GB 17,50€/32€, NZXT Kraken X73 139€) • Alternate: Weekend Sale • Razer Strider XXL 33,90€ • JBL Live Pro+ 49€ • PCGH-Ratgeber-PC 3000 Radeon Edition 2.500€ • LG OLED65CS9LA 1.699€ [Werbung]
    •  /