Prädiktive Polizeiarbeit: Britisches Projekt zur Verbrechensvorhersage gescheitert
In der englischen Stadt Bristol hat die Polizei in Zusammenarbeit mit dem Stadtrat ein umfangreiches Experiment zu prädiktiver Polizeiarbeit durchgeführt. Ziel war es, mithilfe von Algorithmen das Risiko künftiger Straftaten und sozialer Risiken zu berechnen.
Eine Recherche der US-amerikanischen Computerzeitschrift Wired ergab(öffnet im neuen Fenster), dass vertrauliche Daten von Hunderttausenden Bürgern ohne deren Zustimmung gesammelt und ausgewertet wurden. Die verwendeten Vorhersagemodelle sollen zudem unzuverlässige Ergebnisse geliefert haben und aufgrund mangelnder Präzision eingestellt worden sein.
Im Jahr 2016 begannen die Behörden in Bristol damit, die Think-Family-Database anzulegen, in der Informationen über fast alle der etwa 480.000 Einwohner der Stadt gesammelt wurden. Es wurden Informationen aus Polizeiberichten, zum Wohnstatus, psychische Gesundheitsakten, Informationen über Teenager-Schwangerschaften, Anmeldungen zu Elternkursen und Daten über kostenloses Schulessen verwendet.
Weder Quellcode noch Aufzeichnungen sind auffindbar
Anhand dieser Daten wurden Algorithmen entwickelt, die Risiko-Scores für Erwachsene und Kinder vergaben. Mit mindestens 23 verschiedenen Modellen soll unter anderem versucht worden sein, das Risiko für Wohnungseinbrüche, das Nichterscheinen vor Gericht oder die Wahrscheinlichkeit vorherzusagen, Opfer von häuslicher Gewalt oder sexueller Ausbeutung zu werden.
Um keine Einwilligung von den Stadtbewohnern einholen zu müssen, nutzten die Behörden sogenannte Legal Gateways, die rechtliche Hintertüren beim Datenaustausch zur Gefahrenabwehr bieten.
Da Stadträte umliegender Gemeinden die Zusammenarbeit verweigerten, gelang es der Polizei nicht, das Projekt regional auszuweiten. Für die Algorithmen standen daher nur die in Bristol verfügbaren Polizeidaten zur Verfügung, wodurch die Vorhersage unzuverlässig wurde. Ein Modell zur Vorhersage von Einbrüchen soll nur in weniger als zehn Prozent der Fälle richtig gelegen haben.
Zwei weitere Modelle zur Vorhersage von Ausbeutung und Missbrauch von Kindern sollen im Jahr 2023 abgeschaltet worden sein, weil Mitarbeiter des Stadtrates diesen nicht mehr vertrauten. Aufzeichnungen darüber, warum die Modelle abgeschaltet und auf welcher Basis die Entscheidungen getroffen wurden, sollen unauffindbar gewesen sein. Dasselbe gilt für den Quellcode und für Variablen, die erklären könnten, wie die Modelle überhaupt funktionierten.
Trotz des Scheiterns dieses Projekts, treibt die britische Regierung laut Wired die Verwendung von KI-Modellen in Polizeiarbeit auf nationaler Ebene voran. In Bayern stellte die Polizei im Jahr 2021 ein ähnliches Projekt ein, nach dem dieses sieben Jahre betrieben wurde und ebenfalls nur unzuverlässige Ergebnisse lieferte.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.