Predictive Policing: Amnesty kritisiert Polizei für diskriminierende Algorithmen

In einem Bericht kritisiert Amnesty International das sogenannte Predictive Policing in den Niederlanden. Schon das Design sei diskriminierend.

Artikel veröffentlicht am ,
Die Polizei setzt in den Niederlanden nicht nur auf Präsenz, sondern auch auf Predictive Policing. Amnesty kritisiert diesen Ansatz.
Die Polizei setzt in den Niederlanden nicht nur auf Präsenz, sondern auch auf Predictive Policing. Amnesty kritisiert diesen Ansatz. (Bild: Pierre Crom/Getty Images)

Ähnlich wie seit Jahren in Deutschland testet auch die Polizei in den Niederlanden das sogenannte Predictive Policing. Mithilfe von Softwaresystemen soll dabei die Arbeit der Polizei unterstützt und sollen so im besten Fall auch Straftaten verhindert werden. Die Menschenrechtsorganisation Amnesty International hat einen dieser Tests der Polizei selbst ausgewertet und kommt zu dem Schluss, dass das System selbst schon auf diskriminierenden Annahmen beruhe und diese Diskriminierung damit in der Polizeiarbeit schlicht reproduziert werde.

Stellenmarkt
  1. Fachinformatiker*in als Anwendungsbetreuer*in (m/w/d) des Dokumentenmanagementsystems [IT / ... (m/w/d)
    Ruhrverband, Essen
  2. Assistant Data Management für Marketing/CRM
    Porsche Consulting GmbH, Stuttgart, München, Frankfurt am Main, Berlin, Hamburg
Detailsuche

Im konkreten Fall handelt es sich um das sogenannte Sensing Project in der niederländischen Stadt Roermond. Die Polizei nutzt das System demnach, um gegen "mobiles Banditentum" vorzugehen. Damit bezeichnet die Polizei bandenmäßigen Diebstahl durch Personen, die die Polizei osteuropäischen Nationalitäten zuordnet. Schon vor Beginn des Projekts bestätigte die Polizei diese Idee einer niederländischen Zeitung. Als Risiken, die dazu führen können, in diese Kategorie einsortiert zu werden, gehören demnach neben Nummernschildern und dem Zulassungsland eines Autos etwa auch, ob dieses voll besetzt ist oder welche Farbe es hat.

Algorithmen mit Vorurteilen, aber ohne Wirkung

Amnesty kritisiert hierbei nicht nur die "wahllose Massenüberwachung" durch Kameras. Darüber hinaus schreibt die Organisation, dass diese Systeme der Polizei zwar als neutral gepriesen würden, "Vorurteile und Stereotypen sind in den Modellen und Algorithmen jedoch eingebettet", heißt es in der Auswertung. Und weiter: "Dies führt zu diskriminierenden Ergebnissen mit höheren Risikowerten für bestimmte Gruppen."

Besonders gut zeigt sich dies wohl daran, dass zwar rund 60 Prozent der Verdächtigen in Diebstahlfällen eine niederländische Staatsangehörigkeit haben, aber nur rund 20 Prozent der Verdächtigen über einen Pass aus Osteuropa verfügen. Durch den Fokus auf das "mobile Banditentum" vermittele "die niederländische Polizei den Eindruck, dass der Großteil der Taschen- und Ladendiebstähle in Roermond von Personen mit osteuropäischer Nationalität begangen wird", schreibt Amnesty.

Golem Karrierewelt
  1. Anti-Hacking & Hacking für Web Developer (mit OWASP): virtueller Zwei-Tage-Workshop
    03./04.04.2023, Virtuell
  2. Certified Network Defender (CND): virtueller Fünf-Tage-Workshop
    06.-10.02.2023, Virtuell
Weitere IT-Trainings

"Es handelt sich um ein inhärent diskriminierendes System, das erstellt worden ist, Menschen osteuropäischer Nationalität Racial Profiling zu unterziehen und auf diese abzuzielen", sagt dazu Merel Koning von Amnesty. Letztlich bestätigt die Polizei laut Amnesty sogar, dass sie die Wirksamkeit des Systems zur Prävention von Diebstählen nicht nachweisen könne.

In Deutschland testet die Polizei immer wieder solche Systeme, auch selbst entwickelte, obwohl deren technischer Nutzen seit Jahren umstritten ist. In letzter Zeit arbeiten verschiedene Behörden dafür vermehrt mit dem US-Unternehmen Palantir zusammen. Aufgrund der hohen Fehlerquote und damit verbundener Diskriminierung haben zuletzt Unternehmen wie Amazon, IBM und Microsoft aber aufgehört, ihre Gesichtserkennungssysteme an Polizeibehörden zu verkaufen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Lachser 04. Okt 2020

Aif der anderen Seite ist der Alogrithmus aber auch sehr einfach: wenn bei diesen 50...

MFGSparka 01. Okt 2020

Warum? Wollte die Garage flüchten?

leed 01. Okt 2020

Das Banden eher von ärmeren Schichten und Leuten ohne Staatsangehörigkeit kommen ist ja...



Aktuell auf der Startseite von Golem.de
Telekom-Internet-Booster
Hybridzugang für über 600 MBit/s inhouse kommt

Der Hybridzugang, bei dem der Router die Datenrate aus Festnetz und 5G-Mobilfunknetz aggregiert, wurde schon lange erwartet. Jetzt liefert die Telekom.

Telekom-Internet-Booster: Hybridzugang für über 600 MBit/s inhouse kommt
Artikel
  1. Luftfahrt: Boeing zeigt Konzept eines Tarnkappen-Transportflugzeugs
    Luftfahrt
    Boeing zeigt Konzept eines Tarnkappen-Transportflugzeugs

    Um weniger angreifbar zu sein, sollen militärische Transportflugzeuge künftig mit Tarnkappentechnik ausgestattet werden, wie Boeing zeigt.

  2. Quartalsbericht: IBM streicht 3.900 Stellen
    Quartalsbericht
    IBM streicht 3.900 Stellen

    Auch nach der Ausgründung sind die Techies bei Kyndryl nicht vor einem Stellenabbau sicher. IBM macht es wie die übrige Techbranche.

  3. Pinecil im Test: Ein toller Lötkolben mit RISC-V-Prozessor
    Pinecil im Test
    Ein toller Lötkolben mit RISC-V-Prozessor

    Günstig, leistungsstark und Open Source: Das macht den Lötkolben Pinecil interessant und er überzeugt im Test - auch im Vergleich mit einer JBC-Lötstation.
    Ein Test von Johannes Hiltscher

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • RAM & Grakas im Preisrutsch • PS5 ab Lager bei Amazon • MindStar: MSI RTX 4090 1.899€, Sapphire RX 7900 XT 949€ • WSV: Bis -70% bei Media Markt • Gaming-Stühle Razer & HP bis -41% • 3D-Drucker 249€ • Kingston SSD 1TB 49€ • Asus RTX 4080 1.399€ • Razer bis -60% [Werbung]
    •  /