Predictive Policing: Amnesty kritisiert Polizei für diskriminierende Algorithmen

In einem Bericht kritisiert Amnesty International das sogenannte Predictive Policing in den Niederlanden. Schon das Design sei diskriminierend.

Artikel veröffentlicht am ,
Die Polizei setzt in den Niederlanden nicht nur auf Präsenz, sondern auch auf Predictive Policing. Amnesty kritisiert diesen Ansatz.
Die Polizei setzt in den Niederlanden nicht nur auf Präsenz, sondern auch auf Predictive Policing. Amnesty kritisiert diesen Ansatz. (Bild: Pierre Crom/Getty Images)

Ähnlich wie seit Jahren in Deutschland testet auch die Polizei in den Niederlanden das sogenannte Predictive Policing. Mithilfe von Softwaresystemen soll dabei die Arbeit der Polizei unterstützt und sollen so im besten Fall auch Straftaten verhindert werden. Die Menschenrechtsorganisation Amnesty International hat einen dieser Tests der Polizei selbst ausgewertet und kommt zu dem Schluss, dass das System selbst schon auf diskriminierenden Annahmen beruhe und diese Diskriminierung damit in der Polizeiarbeit schlicht reproduziert werde.

Stellenmarkt
  1. IT-Ingenieur - Arbeitsplatzprodukte (w/m/d)
    IT-Systemhaus der Bundesagentur für Arbeit, Nürnberg
  2. IT Cloud Data & Analytics Architect / Engineer (m/w/d)
    ALDI International Services SE & Co. oHG, Mülheim an der Ruhr
Detailsuche

Im konkreten Fall handelt es sich um das sogenannte Sensing Project in der niederländischen Stadt Roermond. Die Polizei nutzt das System demnach, um gegen "mobiles Banditentum" vorzugehen. Damit bezeichnet die Polizei bandenmäßigen Diebstahl durch Personen, die die Polizei osteuropäischen Nationalitäten zuordnet. Schon vor Beginn des Projekts bestätigte die Polizei diese Idee einer niederländischen Zeitung. Als Risiken, die dazu führen können, in diese Kategorie einsortiert zu werden, gehören demnach neben Nummernschildern und dem Zulassungsland eines Autos etwa auch, ob dieses voll besetzt ist oder welche Farbe es hat.

Algorithmen mit Vorurteilen, aber ohne Wirkung

Amnesty kritisiert hierbei nicht nur die "wahllose Massenüberwachung" durch Kameras. Darüber hinaus schreibt die Organisation, dass diese Systeme der Polizei zwar als neutral gepriesen würden, "Vorurteile und Stereotypen sind in den Modellen und Algorithmen jedoch eingebettet", heißt es in der Auswertung. Und weiter: "Dies führt zu diskriminierenden Ergebnissen mit höheren Risikowerten für bestimmte Gruppen."

Besonders gut zeigt sich dies wohl daran, dass zwar rund 60 Prozent der Verdächtigen in Diebstahlfällen eine niederländische Staatsangehörigkeit haben, aber nur rund 20 Prozent der Verdächtigen über einen Pass aus Osteuropa verfügen. Durch den Fokus auf das "mobile Banditentum" vermittele "die niederländische Polizei den Eindruck, dass der Großteil der Taschen- und Ladendiebstähle in Roermond von Personen mit osteuropäischer Nationalität begangen wird", schreibt Amnesty.

Golem Akademie
  1. Einführung in Unity: virtueller Ein-Tages-Workshop
    17. Februar 2022, Virtuell
  2. ITIL 4® Foundation: virtueller Zwei-Tage-Workshop
    24.–25. Januar 2022, virtuell
Weitere IT-Trainings

"Es handelt sich um ein inhärent diskriminierendes System, das erstellt worden ist, Menschen osteuropäischer Nationalität Racial Profiling zu unterziehen und auf diese abzuzielen", sagt dazu Merel Koning von Amnesty. Letztlich bestätigt die Polizei laut Amnesty sogar, dass sie die Wirksamkeit des Systems zur Prävention von Diebstählen nicht nachweisen könne.

In Deutschland testet die Polizei immer wieder solche Systeme, auch selbst entwickelte, obwohl deren technischer Nutzen seit Jahren umstritten ist. In letzter Zeit arbeiten verschiedene Behörden dafür vermehrt mit dem US-Unternehmen Palantir zusammen. Aufgrund der hohen Fehlerquote und damit verbundener Diskriminierung haben zuletzt Unternehmen wie Amazon, IBM und Microsoft aber aufgehört, ihre Gesichtserkennungssysteme an Polizeibehörden zu verkaufen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Dataport
"Die Arbeit wird uns nicht so schnell ausgehen"

Ein Job mit Zukunft und Sinnhaftigkeit, sicherer Bezahlung und verlässlichen Arbeitsbedingungen - so hat es Dataport zum Top-IT-Arbeitgeber geschafft.
Von Sebastian Grüner

Dataport: Die Arbeit wird uns nicht so schnell ausgehen
Artikel
  1. Logitech Pop Keys: Farbige mechanische Tastatur mit wechselbaren Emoji-Tasten
    Logitech Pop Keys
    Farbige mechanische Tastatur mit wechselbaren Emoji-Tasten

    Parallel zur Tastatur namens Pop Keys bringt Logitech eine Maus in einem farbigen Gehäuse nach Deutschland.

  2. Microsoft: Sony äußert sich zur Übernahme von Activision Blizzard
    Microsoft
    Sony äußert sich zur Übernahme von Activision Blizzard

    Rund 20 Milliarden US-Dollar haben die Aktien von Sony verloren. Nun hat der Konzern erstmals den Kauf von Activision Blizzard kommentiert.

  3. Konkurrenz zu Disney+ und Prime Video: Netflix erwartet schwaches Wachstum
    Konkurrenz zu Disney+ und Prime Video
    Netflix erwartet schwaches Wachstum

    Zum Jahresende hatte Netflix weltweit 222 Millionen Abonnenten, aber die Konkurrenz auch durch Disney+ und Prime Video wird immer stärker.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • RTX 3070 989€ • The A500 Mini Retro-Konsole mit 25 Amiga-Spielen vorbestellbar 189,90€ • RX 6800 16GB 1.129€ • Intel Core i9 3.7 459,50€ Ghz • 32GB DDR5-5200 297,17€ • RX 6700 12GB 869€ • MindStar (u.a. 1TB SSD 69€) • Philips Hue Play 2x Lightbar + Hue Bridge 109€ [Werbung]
    •  /