• IT-Karriere:
  • Services:

Predictive Policing: Amnesty kritisiert Polizei für diskriminierende Algorithmen

In einem Bericht kritisiert Amnesty International das sogenannte Predictive Policing in den Niederlanden. Schon das Design sei diskriminierend.

Artikel veröffentlicht am ,
Die Polizei setzt in den Niederlanden nicht nur auf Präsenz, sondern auch auf Predictive Policing. Amnesty kritisiert diesen Ansatz.
Die Polizei setzt in den Niederlanden nicht nur auf Präsenz, sondern auch auf Predictive Policing. Amnesty kritisiert diesen Ansatz. (Bild: Pierre Crom/Getty Images)

Ähnlich wie seit Jahren in Deutschland testet auch die Polizei in den Niederlanden das sogenannte Predictive Policing. Mithilfe von Softwaresystemen soll dabei die Arbeit der Polizei unterstützt und sollen so im besten Fall auch Straftaten verhindert werden. Die Menschenrechtsorganisation Amnesty International hat einen dieser Tests der Polizei selbst ausgewertet und kommt zu dem Schluss, dass das System selbst schon auf diskriminierenden Annahmen beruhe und diese Diskriminierung damit in der Polizeiarbeit schlicht reproduziert werde.

Stellenmarkt
  1. ALDI International Services GmbH & Co. oHG, Mülheim an der Ruhr
  2. ESG Elektroniksystem- und Logistik-GmbH, Koblenz

Im konkreten Fall handelt es sich um das sogenannte Sensing Project in der niederländischen Stadt Roermond. Die Polizei nutzt das System demnach, um gegen "mobiles Banditentum" vorzugehen. Damit bezeichnet die Polizei bandenmäßigen Diebstahl durch Personen, die die Polizei osteuropäischen Nationalitäten zuordnet. Schon vor Beginn des Projekts bestätigte die Polizei diese Idee einer niederländischen Zeitung. Als Risiken, die dazu führen können, in diese Kategorie einsortiert zu werden, gehören demnach neben Nummernschildern und dem Zulassungsland eines Autos etwa auch, ob dieses voll besetzt ist oder welche Farbe es hat.

Algorithmen mit Vorurteilen, aber ohne Wirkung

Amnesty kritisiert hierbei nicht nur die "wahllose Massenüberwachung" durch Kameras. Darüber hinaus schreibt die Organisation, dass diese Systeme der Polizei zwar als neutral gepriesen würden, "Vorurteile und Stereotypen sind in den Modellen und Algorithmen jedoch eingebettet", heißt es in der Auswertung. Und weiter: "Dies führt zu diskriminierenden Ergebnissen mit höheren Risikowerten für bestimmte Gruppen."

Besonders gut zeigt sich dies wohl daran, dass zwar rund 60 Prozent der Verdächtigen in Diebstahlfällen eine niederländische Staatsangehörigkeit haben, aber nur rund 20 Prozent der Verdächtigen über einen Pass aus Osteuropa verfügen. Durch den Fokus auf das "mobile Banditentum" vermittele "die niederländische Polizei den Eindruck, dass der Großteil der Taschen- und Ladendiebstähle in Roermond von Personen mit osteuropäischer Nationalität begangen wird", schreibt Amnesty.

"Es handelt sich um ein inhärent diskriminierendes System, das erstellt worden ist, Menschen osteuropäischer Nationalität Racial Profiling zu unterziehen und auf diese abzuzielen", sagt dazu Merel Koning von Amnesty. Letztlich bestätigt die Polizei laut Amnesty sogar, dass sie die Wirksamkeit des Systems zur Prävention von Diebstählen nicht nachweisen könne.

In Deutschland testet die Polizei immer wieder solche Systeme, auch selbst entwickelte, obwohl deren technischer Nutzen seit Jahren umstritten ist. In letzter Zeit arbeiten verschiedene Behörden dafür vermehrt mit dem US-Unternehmen Palantir zusammen. Aufgrund der hohen Fehlerquote und damit verbundener Diskriminierung haben zuletzt Unternehmen wie Amazon, IBM und Microsoft aber aufgehört, ihre Gesichtserkennungssysteme an Polizeibehörden zu verkaufen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Hardware-Angebote
  1. (reduzierte Überstände, Restposten & Co.)

Lachser 04. Okt 2020 / Themenstart

Aif der anderen Seite ist der Alogrithmus aber auch sehr einfach: wenn bei diesen 50...

MFGSparka 01. Okt 2020 / Themenstart

Warum? Wollte die Garage flüchten?

leed 01. Okt 2020 / Themenstart

Das Banden eher von ärmeren Schichten und Leuten ohne Staatsangehörigkeit kommen ist ja...

Kommentieren


Folgen Sie uns
       


Apple: iPhone 12 bekommt Magnetrücken und kleinen Bruder
Apple
iPhone 12 bekommt Magnetrücken und kleinen Bruder

Das iPhone 12 ist mit einem 6,1-Zoll- und das iPhone 12 Mini mit einem 5,4-Zoll-Display ausgerüstet. Ladegerät und Kopfhörer fallen aus Gründen des Umweltschutzes weg.

  1. Apple iPhone 12 Pro und iPhone 12 Pro Max werden größer
  2. Apple iPhone 12 verspätet sich
  3. Back Tap iOS 14 erkennt Trommeln auf der iPhone-Rückseite

IT-Jobs: Die schwierige Suche nach dem richtigen Arbeitgeber
IT-Jobs
Die schwierige Suche nach dem richtigen Arbeitgeber

Nur jeder zweite Arbeitnehmer ist mit seinem Arbeitgeber zufrieden. Das ist fatal, weil Unzufriedenheit krank macht. Deshalb sollte die Suche nach dem passenden Job nicht nur dem Zufall überlassen werden.
Von Peter Ilg

  1. Digitalisierung in Firmen Warum IT-Teams oft übergangen werden
  2. Jobs Unternehmen können offene IT-Stellen immer schwerer besetzen
  3. Gerichtsurteile Wann fristlose Kündigungen für IT-Mitarbeiter rechtens sind

Shifoo: Golem.de startet Betatest seiner Karriere-Coaching-Plattform
Shifoo
Golem.de startet Betatest seiner Karriere-Coaching-Plattform

Beratung, die IT-Profis in Job & Karriere effizient und individuell unterstützt: Golem.de startet die Video-Coaching-Plattform Shifoo. Hilf uns in der Betaphase, sie für dich perfekt zu machen, und profitiere vom exklusiven Angebot!

  1. Stellenanzeige Golem.de sucht Verstärkung für die Redaktion
  2. Stellenanzeige Golem.de sucht CvD (m/w/d)
  3. In eigener Sache Die 24-kernige Golem Workstation ist da

    •  /