EU-Kommission: Per Gesichtserkennung nach Hackern und Einbrechern suchen

Die EU-Kommission will die Suche nach Tätern und Verdächtigen mit Hilfe von automatischer Gesichtserkennung erlauben. Und das bei vielen Straftaten.

Ein Bericht von veröffentlicht am
Test von Gesichtserkennungssystemen am Berliner Bahnhof Südkreuz
Test von Gesichtserkennungssystemen am Berliner Bahnhof Südkreuz (Bild: Friedhelm Greis/Golem.de)

Die EU-Kommission plant großzügige Ausnahmen für den Einsatz biometrischer Erkennungssysteme bei der Suche nach Straftätern oder Verdächtigen. Der am Mittwoch in Brüssel vorgestellte Entwurf einer Verordnung (PDF) verbietet zwar zunächst den Einsatz automatisierter Gesichtserkennung im öffentlichen Raum zum Zwecke der Strafverfolgung. Anschließend wird er aber in etlichen "unbedingt notwendigen" Fällen erlaubt.

Inhalt:
  1. EU-Kommission: Per Gesichtserkennung nach Hackern und Einbrechern suchen
  2. Bürger sollen KI vertrauen können

Dazu zählen die Festnahme, Identifizierung und Suche nach Straftätern und Verdächtigen bei allen Straftaten, für die eine maximale Haftstrafe von wenigstens drei Jahren vorgesehen ist. Auch soll mithilfe solcher Kamerasysteme nach Opfern von Straftaten gesucht werden dürfen, beispielsweise vermissten Kindern. Zum Einsatz darf die Gesichtserkennung auch kommen, um die "spezifische, erhebliche und unmittelbar bevorstehende Bedrohung des Lebens oder der körperlichen Unversehrtheit natürlicher Personen oder einen Terroranschlag" zu verhindern.

Umfangreicher Straftatenkatalog

Der Einsatz der Technik muss individuell von einer zuständigen Justizbehörde oder einer unabhängigen Verwaltungsbehörde bewilligt werden. Ein Richtervorbehalt ist nicht vorgesehen. In dringenden Fällen ist der Einsatz auch ohne eine solche Zustimmung möglich.

Die Pläne bedeuten, dass künftig nach jedem Einbrecher, Drogendealer oder Computerhacker per Gesichtserkennung gesucht werden könnte. Das sieht der entsprechende Straftatenkatalog einer EU-Rahmenvereinbarung in Artikel 2, Abs. 2 vor, auf den sich der Entwurf bezieht. Die Pläne würden dem flächendeckenden Einsatz von Gesichtserkennungssystemen, wie sie beispielsweise am Berliner Bahnhof Südkreuz getestet wurden, den Weg freimachen. "Unbedingt erforderlich" könnte die Suche sein, wenn die Identität einer Person nicht bekannt ist oder diese sich den Strafverfolgungsbehörden entzieht.

Verbot für bestimmte KI-Anwendungen

Stellenmarkt
  1. CRM Application Manager (gn)
    Getriebebau NORD GmbH & Co. KG, Bargteheide bei Hamburg
  2. Assistent (m/w/d) des Vorstandsvorsitzenden
    Wüstenrot & Württembergische AG, Stuttgart
Detailsuche

Generell ohne Ausnahme bleiben hingegen manipulierende KI-Systeme verboten, die eine Person durch sublime Verfahren so beeinflussen könnten, dass diese oder andere Personen körperlich oder psychisch geschädigt werden. Auch dürfen solche Systeme nicht die Schwächen bestimmter Personen oder Gruppen aufgrund deren Alters sowie körperlicher oder geistiger Beeinträchtigungen ausnutzen.

Ein KI-basiertes Social Scoring soll demnach ebenfalls verboten werden, wenn Personen oder Personengruppen beispielsweise in Kontexten benachteiligt werden, die nicht im Zusammenhang mit der ursprünglichen Datensammlung stehen oder wenn die Benachteiligung in keinem Verhältnis zu dem sozialen Verhalten steht.

  • Am Berliner Bahnhof Süd testete die Bundespolizei drei Gesichtserkennungssysteme. (Bild und Unkenntlichmachung: Friedhelm Greis/Golem.de)
  • Das beste System, dessen Hersteller nicht genannt wurde, erzielte eine Trefferquote von mehr als 80 Prozent. (Bild und Unkenntlichmachung: Friedhelm Greis/Golem.de)
  • Nur die Kombination zweier Systeme ergab eine akzeptable Fehlerquote von 0,00018 Prozent. (Bild: Friedhelm Greis/Golem.de)
  • Für das Pilotprojekt wurden drei Kameras installiert. (Bild und Unkenntlichmachung: Friedhelm Greis/Golem.de)
  • Die Passanten wurden durch Aufkleber auf dem Boden über das Pilotprojekt informiert. (Bild und Unkenntlichmachung: Friedhelm Greis/Golem.de)
  • Die Kameras überwachten den Eingangsbereich und eine Rolltreppe. (Bild: Friedhelm Greis/Golem.de)
  • Das Kontrollzentrum der Bundespolizei befand sich gegenüber der Rolltreppe. (Bild: Friedhelm Greis/Golem.de)
  • Die Überwachungskameras lassen sich zur Not austricksen. (Bild und Unkenntlichmachung: Alexander Theiler/naiv.tv)
  • Die automatisierte Gesichtserkennung könnte künftig flächendeckend auf Bahnhöfen und Flughäfen eingesetzt werden. (Bild: Friedhelm Greis/Golem.de)
Am Berliner Bahnhof Süd testete die Bundespolizei drei Gesichtserkennungssysteme. (Bild und Unkenntlichmachung: Friedhelm Greis/Golem.de)

In einem Anhang III (PDF) hat die EU-Kommission acht "hochriskante KI-Systeme" identifiziert. Dazu zählen neben biometrischen Identifikationssystemen auch Systeme zur Steuerung kritischer Infrastruktur oder zur Bewertung der Kreditwürdigkeit. Bei der Strafverfolgung identifiziert die Kommission ebenfalls zahlreiche hochriskante Einsatzmöglichkeiten von KI-Systemen, beispielsweise bei Lügendetektoren oder der Beweisverwertung.

Für solche hochriskanten Einsatzgebiete sollen besondere Anforderung an die KI-Systeme aufgestellt werden.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
Bürger sollen KI vertrauen können 
  1. 1
  2. 2
  3.  


Eheran 25. Apr 2021

Falsch-positive. Zeugenaussagen sind zwar ebenfalls erstaunlich unzuverlässig, aber du...

Iruwen 22. Apr 2021

Also kurzes Googlen sagt, dass die Einbruchszahlen 2019 um ~20% auf ein 20-Jahrestief...

mke2fs 22. Apr 2021

Kannst ja gerne warten und es dir dann live anschauen. Ist ja auch nicht so das wir es...

Fotobar 22. Apr 2021

Geheimtipp: Paranoia macht das Leben nicht lebenswerter.

Fotobar 22. Apr 2021

Da hast du vielleicht einen riesen Denkfehler. Aktuell basieren Haftbefehle u.A. auf...



Aktuell auf der Startseite von Golem.de
Bundesservice Telekommunikation  
Die dubiose Adresse in Berlin-Treptow

Angeblich hat das Innenministerium nichts mit dem Bundesservice Telekommunikation zu tun. Doch beide teilen sich offenbar ein Bürogebäude.
Ein Bericht von Friedhelm Greis

Bundesservice Telekommunikation: Die dubiose Adresse in Berlin-Treptow
Artikel
  1. Reddit: IT-Arbeiter automatisiert seinen Job angeblich vollständig
    Reddit
    IT-Arbeiter automatisiert seinen Job angeblich vollständig

    Ein anonymer IT-Spezialist will unbemerkt seinen Job vollständig automatisiert haben. Dem Arbeitgeber sei dies seit einem Jahr nicht aufgefallen.

  2. E-Mail: Outlook-Suche in MacOS 12.1 ist noch immer kaputt
    E-Mail
    Outlook-Suche in MacOS 12.1 ist noch immer kaputt

    Seit Wochen ärgern sich Outlook-User darüber, dass die E-Mail-Suche unter MacOS 12.1 nicht mehr richtig funktioniert. Ein Fix ist in Arbeit.

  3. Spielebranche: Microsoft will Activision Blizzard übernehmen
    Spielebranche
    Microsoft will Activision Blizzard übernehmen

    Diablo und Call of Duty gehören bald zu Microsoft: Der Softwarekonzern will Activision Blizzard für rund 70 Milliarden US-Dollar kaufen.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • PS5 Digital inkl. 2. Dualsense bestellbar • RTX 3080 12GB bei Mindfactory 1.699€ • Samsung Gaming-Monitore (u.a. G5 32" WQHD 144Hz Curved 299€) • MindStar (u.a. GTX 1660 6GB 499€) • Sony Fernseher & Kopfhörer • Samsung Galaxy A52 128GB 299€ • CyberGhost VPN 1,89€/Monat [Werbung]
    •  /