• IT-Karriere:
  • Services:

Polizei: Gesichtserkennung beschuldigt den Falschen

Anhand von Gesichtserkennung hat die Detroiter Polizei einen Mann festgenommen. Er ist unschuldig.

Artikel veröffentlicht am ,
Ein 42-jähriger Mann wurde von Software fälschlich angeklagt.
Ein 42-jähriger Mann wurde von Software fälschlich angeklagt. (Bild: Aclu)

Mit Hilfe eines Gesichtserkennungsprogramms hat die Detroiter Polizei einen Mann wegen Uhrendiebstahls ausgemacht, der die Tat aber - wie sich später herausstellte - gar nicht begangen hat. Der 42-Jährige wurde festgenommen und verhört, wie die US-Zeitung New York Times (via npr) berichtet. Allerdings hatte die Software, der lediglich recht unscharfes Videomaterial einer Sicherheitskamera zur Verfügung stand, ihn mit dem wahren Täter verwechselt.

Stellenmarkt
  1. Interhyp Gruppe, Berlin, München
  2. Gottfried Wilhelm Leibniz Universität Hannover, Hannover

"Wenn ich auf das Bild dieses Typen schaue, sehe ich nur einen großen schwarzen Typen. Ich sehe keine Ähnlichkeit. Ich glaube, er sieht überhaupt nicht wie ich aus", sagte der Mann dem Bericht zufolge der Polizei, die ihm drei Fotos vom Täter und ein Abbild seines Führerscheins als Vergleich vorlegte. Er hielt sich das Foto des Täters neben das eigene Gesicht und sagte dem vor ihm sitzenden Polizisten: "Ich hoffe doch, Sie denken nicht, dass alle Schwarzen gleich aussehen."

Laut seines Anwaltsteams wurde der Mann 30 Stunden festgehalten, bis er unter der Bedingung, vor Gericht zu erscheinen, freigelassen wurde. Vor Richtern und Anwälten musste er aussagen - und wurde schlussendlich wegen unzureichender Beweise gegen ihn freigelassen. Zuvor hatte er sich mehrfach gegen die Behauptungen gewehrt und Gegenargumente gebracht. Offenbar nahm die Polizei diese Aussagen jedoch nicht ernst. "Sie haben ihm nicht einmal Fragen gestellt, bevor sie ihn festgenommen haben", sagte der Anwalt Phil Mayor, der für die Bürgerrechtsorganisation American Civil Liberties Union (Aclu) arbeitet. Diese hat auch über den Fall berichtet.

Polizei schränkt Nutzen von Software ein

Der Mann ist laut der Organisation in den USA wohl der erste Mensch, der durch Gesichtserkennungssoftware falsch angeklagt und daraufhin festgenommen wurde. Aclu setzt sich seit einiger Zeit gegen die Nutzung von Gesichtserkennung bei der Bekämpfung von Kriminalität ein.

Der Einsatz von Gesichtserkennungssoftware wurde von der Detroiter Polizei im Nachhinein eingeschränkt. Es dürfen nur noch schwere Fälle von Mord oder ähnlichen Straftaten damit untersucht werden. Außerdem dürfen nur noch höherauflösende Fotos für solche Analysen genutzt werden.

Der Autor meint dazu

Wichtige Arbeiten werden in der Zukunft von Software und KI übernommen, daran wird kein Weg vorbeiführen. Allerdings darf mit der Abgabe von Aufgaben keine Abgabe von Verantwortung erfolgen. Polizeibehörden stehen - wie auch andere - in der Pflicht, alle Seiten anzuhören, abzuwägen und Menschen nicht wegen ihrer Herkunft, ihrer Hautfarbe, ihres Geschlechts oder anderem bereits vorher zu schematisieren. Neue Technik darf die Menschenrechte nicht verletzen.

Dieser Fall beweist auch, dass sowohl die Software als auch die Menschen, die sie nutzen, für diese Technik noch nicht bereit zu sein scheinen. Auf den Betroffenen muss die Tatsache, dass der Polizeibeamte nicht gesehen hat, dass es sich um zwei unterschiedliche Personen handelt, rassistisch gewirkt haben.

Regierungen, aber auch Hersteller von KI-Systemen müssen Verantwortung übernehmen. Dabei geht es darum, Programme und Personen, die sie letztlich nutzen, zu schulen. Das erfordert klare Regeln und Initiative, nicht das Schieben von Verantwortung auf andere, wie es etwa Amazon bereits gezeigt hat.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Spiele-Angebote
  1. 28,99€
  2. 9,49€
  3. 7,99€

quineloe 13. Jan 2021

also okay wenn man nur einen überarbeiteteten Public defender bekommt, der schon mit...

FreiGeistler 26. Jun 2020

Oje. Das wird noch was werden... `:-(

chefin 26. Jun 2020

Woher du diese Erkenntniss hast ist unbekannt. Den Fakt ist, das nach dieser...

on(Golem.de) 26. Jun 2020

Hallo, ich musste erst einmal suchen, wo wir diese Formulierung geschrieben haben. Ich...

Tet 25. Jun 2020

Diese haben keine bis sehr wenig Ahnung von IT und sehen Computer mehr oder weniger als...


Folgen Sie uns
       


Watch Dogs Legion - Raytracing im Vergleich

Wir zeigen die Auswirkungen von Raytracing-Spiegelungen im integrierten Benchmark von Watch Dogs Legion. Dort wie im Spiel reflektieren Wasserfläche, etwa Pfützen, sowie Glas und Metall - also Fenster oder Fahrzeuge - die Umgebung dynamisch in Echtzeit.

Watch Dogs Legion - Raytracing im Vergleich Video aufrufen
    •  /