• IT-Karriere:
  • Services:

Gleichheit: Staatsanwaltschaft setzt KI gegen Vorurteile ein

Staatsanwälte in das USA lassen sich bei ihren Entscheidungen oft genug durch Vorurteile bezüglich der Hautfarbe eines Verdächtigen leiten. In San Francisco bald nicht mehr: Eine KI soll dafür sorgen, dass sie es in Zukunft nur noch mit farblosen Verdächtigen zu tun haben.

Artikel veröffentlicht am ,
Polizist in San Francisco: Schwarze und Latinos würden deutlich häufiger festgenommen oder verurteilt als Weiße.
Polizist in San Francisco: Schwarze und Latinos würden deutlich häufiger festgenommen oder verurteilt als Weiße. (Bild: Justin Sullivan/Getty Images)

Unvoreingenommen, so ist der Anspruch, sollen Staatsanwälte an Fälle herangehen. Doch in der Praxis ist das oft genug nicht der Fall. Vorurteile bestimmen das Handeln. Das will die Staatsanwaltschaft in San Francisco ändern - mit Hilfe von künstlicher Intelligenz (KI).

Stellenmarkt
  1. Deutsche Rentenversicherung Bund, Berlin
  2. ekom21 - KGRZ Hessen, Darmstadt, Gießen, Kassel

Die Staatsanwälte wollen ab dem kommenden Monat ein KI-System einsetzen, das elektronische Polizeiberichte bearbeitet. Die KI soll Namen, Rasse, Haut- und Haarfarbe des Verdächtigen aus der Datei löschen. Zudem wird sie die Namen der beteiligten Polizisten und Zeugen sowie Ortsangaben entfernen - also alle Angaben, aus denen Rückschlüsse auf die Hautfarbe und sozialen Hintergrund der Personen gezogen werden könnten.

Im Strafrechtssystem von Kalifornien bestünden seit langem starke Rassenunterschiede, berichtet die Tageszeitung San Francisco Chronicle. Schwarze und Latinos würden deutlich häufiger festgenommen oder verurteilt als Weiße.

Das Werkzeug soll für die Bearbeitung allgemeiner Fälle eingesetzt werden, bei denen die Staatsanwälte keine Beweise wie Videos oder Bilder sichten. Ein solcher Fall wird dann ein zweites Mal überprüft, um zu entscheiden, ob Anklage erhoben wird. Solche Fälle machen etwa 80 Prozent der Arbeit der Staatsanwaltschaft aus. Bei Straftaten wie häuslicher Gewalt oder Mord wird das System nicht zum Einsatz kommen.

Die Stanford University stellt das System kostenlos zur Verfügung

Entwickelt wurde das System vom Stanford Computational Policy Lab. San Franciscos Bezirksstaatsanwalt George Gascón hatte sich an die Forscher gewandt, die bereits eine Reihe von KI-Werkzeugen entwickelt haben. Gascón will auch andere Staatsanwaltschaften in den USA dazu bringen, das System einsetzen. Die Stanford University will es kostenlos zur Verfügung stellen.

Das KI-System mit maschinellem Lernen sei vergleichsweise einfach, sagte Alex Chohlas-Wood, stellvertretender Leiter des Stanford Computational Policy Lab, dem San Francisco Chronicle. Mit Hilfe von Mustererkennung und der Verarbeitung natürlicher Sprache findet es heraus, welche Angaben aus einem Polizeibericht entfernt werden sollen und ersetzt diese durch allgemeine Begriffe, etwa eine Adresse durch die Angabe "[Location]".

Zuletzt waren computergestützte Gesichtserkennungssysteme wie etwa Rekognition von Amazon kritisiert worden, dass sie Schwierigkeiten haben, die Hautfarbe und das Geschlecht zu erkennen. Um das zu ändern, hat IBM einen Datensatz mit einer Million Gesichter erstellt, an denen Gesichtserkennungssysteme trainiert werden sollen.

San Francisco setzt Technik sehr bedacht ein: Kürzlich hat der Stadtrat beschlossen, dass die städtischen Behörden und die Polizei keine Gesichtserkennungssysteme einsetzen dürfen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Spiele-Angebote
  1. (-53%) 13,99€
  2. (-20%) 47,99€
  3. 37,49€

Angelhut 08. Aug 2019

Das System wird ja nicht die Polizisten oder Richter ersetzen, also würde ich hier keine...

mannzi 13. Jun 2019

Es geht hier doch einfach darum zu erkennen, das da z B. ein Name (egal wie er lautet...


Folgen Sie uns
       


Smarte Jeansjacke von Levis ausprobiert

Das Trucker Jacket mit Googles Jacquard-Technologie hat im Bund des linken Ärmels eingewebte leitende Fasern. Diese bilden ein Touchpad, das wir uns im Test genauer angeschaut haben.

Smarte Jeansjacke von Levis ausprobiert Video aufrufen
Radeon RX 5600 XT im Test: AMDs Schneller als erwartet-Grafikkarte
Radeon RX 5600 XT im Test
AMDs "Schneller als erwartet"-Grafikkarte

Für 300 Euro ist die Radeon RX 5600 XT interessant - trotz Konkurrenz durch Nvidia und AMD selbst. Wie sehr die Navi-Grafikkarte empfehlenswert ist, hängt davon ab, ob Nutzer sich einen Flash-Vorgang zutrauen.
Ein Test von Marc Sauter

  1. Grafikkarte AMD bringt RX 5600 XT im Januar
  2. Grafikkarte Radeon RX 5600 XT hat 2.304 Shader und 6 GByte Speicher
  3. Radeon RX 5500 XT (8GB) im Test Selbst mehr Speicher hilft AMD nicht

Shitrix: Das Citrix-Desaster
Shitrix
Das Citrix-Desaster

Eine Sicherheitslücke in Geräten der Firma Citrix zeigt in erschreckender Weise, wie schlecht es um die IT-Sicherheit in Behörden steht. Es fehlt an den absoluten Grundlagen.
Ein IMHO von Hanno Böck

  1. Perl-Injection Citrix-Geräte mit schwerer Sicherheitslücke und ohne Update

Ryzen Mobile 4000 (Renoir): Lasst die Ära der schrottigen AMD-Notebooks enden!
Ryzen Mobile 4000 (Renoir)
Lasst die Ära der schrottigen AMD-Notebooks enden!

Seit vielen Jahren gibt es kaum Premium-Geräte mit AMD-Chips und selbst bei vermeintlich identischer Ausstattung fehlen Eigenschaften wie eine beleuchtete Tastatur oder Thunderbolt 3. Schluss damit!
Ein IMHO von Marc Sauter

  1. HEDT-Prozessor 64-kerniger Threadripper schlägt 20.000-Dollar-Xeons
  2. Ryzen Mobile 4000 AMDs Renoir hat acht 7-nm-Kerne für Ultrabooks
  3. Zen+ AMD verkauft Ryzen 5 1600 mit flotteren CPU-Kernen

    •  /