• IT-Karriere:
  • Services:

Polizei: Gesichtserkennung beschuldigt den Falschen

Anhand von Gesichtserkennung hat die Detroiter Polizei einen Mann festgenommen. Er ist unschuldig.

Artikel veröffentlicht am ,
Ein 42-jähriger Mann wurde von Software fälschlich angeklagt.
Ein 42-jähriger Mann wurde von Software fälschlich angeklagt. (Bild: Aclu)

Mit Hilfe eines Gesichtserkennungsprogramms hat die Detroiter Polizei einen Mann wegen Uhrendiebstahls ausgemacht, der die Tat aber - wie sich später herausstellte - gar nicht begangen hat. Der 42-Jährige wurde festgenommen und verhört, wie die US-Zeitung New York Times (via npr) berichtet. Allerdings hatte die Software, der lediglich recht unscharfes Videomaterial einer Sicherheitskamera zur Verfügung stand, ihn mit dem wahren Täter verwechselt.

Stellenmarkt
  1. K&P Computer Service- und Vertriebs GmbH, verschiedene Standorte (Home-Office)
  2. Landestalsperrenverwaltung des Freistaates Sachsen, Eibenstock-Neidhardtsthal

"Wenn ich auf das Bild dieses Typen schaue, sehe ich nur einen großen schwarzen Typen. Ich sehe keine Ähnlichkeit. Ich glaube, er sieht überhaupt nicht wie ich aus", sagte der Mann dem Bericht zufolge der Polizei, die ihm drei Fotos vom Täter und ein Abbild seines Führerscheins als Vergleich vorlegte. Er hielt sich das Foto des Täters neben das eigene Gesicht und sagte dem vor ihm sitzenden Polizisten: "Ich hoffe doch, Sie denken nicht, dass alle Schwarzen gleich aussehen."

Laut seines Anwaltsteams wurde der Mann 30 Stunden festgehalten, bis er unter der Bedingung, vor Gericht zu erscheinen, freigelassen wurde. Vor Richtern und Anwälten musste er aussagen - und wurde schlussendlich wegen unzureichender Beweise gegen ihn freigelassen. Zuvor hatte er sich mehrfach gegen die Behauptungen gewehrt und Gegenargumente gebracht. Offenbar nahm die Polizei diese Aussagen jedoch nicht ernst. "Sie haben ihm nicht einmal Fragen gestellt, bevor sie ihn festgenommen haben", sagte der Anwalt Phil Mayor, der für die Bürgerrechtsorganisation American Civil Liberties Union (Aclu) arbeitet. Diese hat auch über den Fall berichtet.

Polizei schränkt Nutzen von Software ein

Der Mann ist laut der Organisation in den USA wohl der erste Mensch, der durch Gesichtserkennungssoftware falsch angeklagt und daraufhin festgenommen wurde. Aclu setzt sich seit einiger Zeit gegen die Nutzung von Gesichtserkennung bei der Bekämpfung von Kriminalität ein.

Der Einsatz von Gesichtserkennungssoftware wurde von der Detroiter Polizei im Nachhinein eingeschränkt. Es dürfen nur noch schwere Fälle von Mord oder ähnlichen Straftaten damit untersucht werden. Außerdem dürfen nur noch höherauflösende Fotos für solche Analysen genutzt werden.

Der Autor meint dazu

Wichtige Arbeiten werden in der Zukunft von Software und KI übernommen, daran wird kein Weg vorbeiführen. Allerdings darf mit der Abgabe von Aufgaben keine Abgabe von Verantwortung erfolgen. Polizeibehörden stehen - wie auch andere - in der Pflicht, alle Seiten anzuhören, abzuwägen und Menschen nicht wegen ihrer Herkunft, ihrer Hautfarbe, ihres Geschlechts oder anderem bereits vorher zu schematisieren. Neue Technik darf die Menschenrechte nicht verletzen.

Dieser Fall beweist auch, dass sowohl die Software als auch die Menschen, die sie nutzen, für diese Technik noch nicht bereit zu sein scheinen. Auf den Betroffenen muss die Tatsache, dass der Polizeibeamte nicht gesehen hat, dass es sich um zwei unterschiedliche Personen handelt, rassistisch gewirkt haben.

Regierungen, aber auch Hersteller von KI-Systemen müssen Verantwortung übernehmen. Dabei geht es darum, Programme und Personen, die sie letztlich nutzen, zu schulen. Das erfordert klare Regeln und Initiative, nicht das Schieben von Verantwortung auf andere, wie es etwa Amazon bereits gezeigt hat.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Top-Angebote
  1. (u. a. Band of Brothers - Box Set (Blu-ray) für 17,54€, The Big Bang Theory - Die komplette...
  2. 51,90€ (Bestpreis!)
  3. (u. a. Kingston Traveller USB-Stick 128GB für 9,99€, MS Office 365 Personal für 51,19€, MSI...
  4. (u. a. Philips Ambilight 65OLED804 für 1.899€, Philips Ambilight 65OLED934/12 OLED+ für 2...

FreiGeistler 26. Jun 2020 / Themenstart

Oje. Das wird noch was werden... `:-(

chefin 26. Jun 2020 / Themenstart

Woher du diese Erkenntniss hast ist unbekannt. Den Fakt ist, das nach dieser...

EWCH 26. Jun 2020 / Themenstart

Das sind viele Fragen offen. Jeder hat das Rechte auf einen Anwalt und der wiederum hat...

on(Golem.de) 26. Jun 2020 / Themenstart

Hallo, ich musste erst einmal suchen, wo wir diese Formulierung geschrieben haben. Ich...

Tet 25. Jun 2020 / Themenstart

Diese haben keine bis sehr wenig Ahnung von IT und sehen Computer mehr oder weniger als...

Kommentieren


Folgen Sie uns
       


Eichrechtskonforme Ladesäule von Allego getestet

Spezielle Module erlauben eine eichrechtskonforme Nutzung von Ladesäulen. Doch sie stellen ein Sicherheitsrisiko dar.

Eichrechtskonforme Ladesäule von Allego getestet Video aufrufen
    •  /