Predictive Policing: Amnesty kritisiert Polizei für diskriminierende Algorithmen

In einem Bericht kritisiert Amnesty International das sogenannte Predictive Policing in den Niederlanden. Schon das Design sei diskriminierend.

Artikel veröffentlicht am ,
Die Polizei setzt in den Niederlanden nicht nur auf Präsenz, sondern auch auf Predictive Policing. Amnesty kritisiert diesen Ansatz.
Die Polizei setzt in den Niederlanden nicht nur auf Präsenz, sondern auch auf Predictive Policing. Amnesty kritisiert diesen Ansatz. (Bild: Pierre Crom/Getty Images)

Ähnlich wie seit Jahren in Deutschland testet auch die Polizei in den Niederlanden das sogenannte Predictive Policing. Mithilfe von Softwaresystemen soll dabei die Arbeit der Polizei unterstützt und sollen so im besten Fall auch Straftaten verhindert werden. Die Menschenrechtsorganisation Amnesty International hat einen dieser Tests der Polizei selbst ausgewertet und kommt zu dem Schluss, dass das System selbst schon auf diskriminierenden Annahmen beruhe und diese Diskriminierung damit in der Polizeiarbeit schlicht reproduziert werde.

Stellenmarkt
  1. Senior Mobile Developer (m/f/d)
    IDnow GmbH, Düsseldorf, deutschlandweit (Home-Office)
  2. Discover Trainee (m/w/d) eCommerce
    Vodafone GmbH, Düsseldorf
Detailsuche

Im konkreten Fall handelt es sich um das sogenannte Sensing Project in der niederländischen Stadt Roermond. Die Polizei nutzt das System demnach, um gegen "mobiles Banditentum" vorzugehen. Damit bezeichnet die Polizei bandenmäßigen Diebstahl durch Personen, die die Polizei osteuropäischen Nationalitäten zuordnet. Schon vor Beginn des Projekts bestätigte die Polizei diese Idee einer niederländischen Zeitung. Als Risiken, die dazu führen können, in diese Kategorie einsortiert zu werden, gehören demnach neben Nummernschildern und dem Zulassungsland eines Autos etwa auch, ob dieses voll besetzt ist oder welche Farbe es hat.

Algorithmen mit Vorurteilen, aber ohne Wirkung

Amnesty kritisiert hierbei nicht nur die "wahllose Massenüberwachung" durch Kameras. Darüber hinaus schreibt die Organisation, dass diese Systeme der Polizei zwar als neutral gepriesen würden, "Vorurteile und Stereotypen sind in den Modellen und Algorithmen jedoch eingebettet", heißt es in der Auswertung. Und weiter: "Dies führt zu diskriminierenden Ergebnissen mit höheren Risikowerten für bestimmte Gruppen."

Besonders gut zeigt sich dies wohl daran, dass zwar rund 60 Prozent der Verdächtigen in Diebstahlfällen eine niederländische Staatsangehörigkeit haben, aber nur rund 20 Prozent der Verdächtigen über einen Pass aus Osteuropa verfügen. Durch den Fokus auf das "mobile Banditentum" vermittele "die niederländische Polizei den Eindruck, dass der Großteil der Taschen- und Ladendiebstähle in Roermond von Personen mit osteuropäischer Nationalität begangen wird", schreibt Amnesty.

Golem Akademie
  1. IT-Fachseminare der Golem Akademie
    Live-Workshops zu Schlüsselqualifikationen
  2. 1:1-Videocoaching mit Golem Shifoo
    Berufliche Herausforderungen meistern
  3. Online-Sprachkurse mit Golem & Gymglish
    Kurze Lektionen, die funktionieren
Weitere IT-Trainings

"Es handelt sich um ein inhärent diskriminierendes System, das erstellt worden ist, Menschen osteuropäischer Nationalität Racial Profiling zu unterziehen und auf diese abzuzielen", sagt dazu Merel Koning von Amnesty. Letztlich bestätigt die Polizei laut Amnesty sogar, dass sie die Wirksamkeit des Systems zur Prävention von Diebstählen nicht nachweisen könne.

In Deutschland testet die Polizei immer wieder solche Systeme, auch selbst entwickelte, obwohl deren technischer Nutzen seit Jahren umstritten ist. In letzter Zeit arbeiten verschiedene Behörden dafür vermehrt mit dem US-Unternehmen Palantir zusammen. Aufgrund der hohen Fehlerquote und damit verbundener Diskriminierung haben zuletzt Unternehmen wie Amazon, IBM und Microsoft aber aufgehört, ihre Gesichtserkennungssysteme an Polizeibehörden zu verkaufen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Lachser 04. Okt 2020

Aif der anderen Seite ist der Alogrithmus aber auch sehr einfach: wenn bei diesen 50...

MFGSparka 01. Okt 2020

Warum? Wollte die Garage flüchten?

leed 01. Okt 2020

Das Banden eher von ärmeren Schichten und Leuten ohne Staatsangehörigkeit kommen ist ja...



Aktuell auf der Startseite von Golem.de
600 Millionen Euro
Bundeswehr lässt Funkgeräte von 1982 nachbauen

Das SEM 80/90 mit 16 KBit/s wird exakt nachgebaut, zum Stückpreis von rund 20.000 Euro. Das Retrogerät geht für die Bundeswehr in Serie.

600 Millionen Euro: Bundeswehr lässt Funkgeräte von 1982 nachbauen
Artikel
  1. Foundation bei Apple TV+: Die unverfilmbare Asimov-Trilogie grandios verfilmt
    Foundation bei Apple TV+
    Die unverfilmbare Asimov-Trilogie grandios verfilmt

    Gegen die Welt von Asimovs Foundation-Trilogie wirkt Game of Thrones überschaubar. Apple hat mit einem enormen Budget eine enorme Science-Fiction-Serie geschaffen.
    Eine Rezension von Peter Osteried

  2. Browser: Edge unterstützt Maus und Tastatur auf Xbox
    Browser
    Edge unterstützt Maus und Tastatur auf Xbox

    Microsoft hat Edge auf den aktuellen Xbox-Konsolen aktualisiert. Jetzt lässt sich der Browser fast wie am PC per Maus und Tastatur bedienen.

  3. William Shatner: Captain Kirk fliegt offenbar in die Erdumlaufbahn
    William Shatner
    Captain Kirk fliegt offenbar in die Erdumlaufbahn

    Energie! Noch im Oktober 2021 fliegt William "Kirk" Shatner möglicherweise mit Jeff Bezos ins All.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Samsung Odyssey G7 499€ • Alternate (u. a. Thermaltake Level 20 RS ARGB 99,90€) • Samsung 980 1 TB 83€ • Lenovo IdeaPad Duet Chromebook 229€ • Lenovo-Laptops zu Bestpreisen • 19% auf Sony-TVs bei MM • Samsung SSD 980 Pro 1TB 150,50€ • AeroCool Cylon 4 ARGB 25,89€ [Werbung]
    •  /