KI-Verordnung: Neuer Ärger wegen automatischer Gesichtserkennung
Nach der vorläufigen Einigung auf die Vorgaben zur Künstlichen Intelligenz (KI) in der EU versuchen die EU-Mitgliedstaaten offenbar weitere Überwachungsmöglichkeiten durchzusetzen. Das betrifft Medienberichten zufolge vor allem die Möglichkeit, die Aufnahmen von Überwachungskameras nachträglich zur Identifizierung von Personen auszuwerten. Ein von der inzwischen abgelösten spanischen Ratspräsidentschaft vorgelegter Entwurf sieht demnach kaum Einschränkungen für die nachträgliche biometrische Fernidentifikation vor.
Ohnehin konnten sich die EU-Mitgliedstaaten in den Verhandlungen zur KI-Verordnung gegenüber den Forderungen des Europaparlaments hinsichtlich der automatischen Gesichtserkennung weitgehend durchsetzen . Während die Abgeordneten diese Technik, die von der Bundespolizei im Berliner Bahnhof Südkreuz getestet worden war, wegen der damit verbundenen Missbrauchsgefahren generell verbieten wollten, erlaubt der Kompromiss vom Dezember 2023 nun deren Einsatz unter bestimmten Bedingungen.
Kaum Einschränkungen für nachträgliche Auswertung
Einschränkungen, die für die Echtzeiterkennung gelten, sollen für die nachträgliche Auswertung der Aufnahmen jedoch gestrichen werden. Das betrifft beispielsweise den Straftatenkatalog sowie den Richtervorbehalt. Das würde bedeuten: Strafverfolger könnten praktisch beliebig die Aufnahmen von Überwachungskameras mit gespeicherten Fotos von Verdächtigen vergleichen.
In einem Entwurf des entsprechenden Artikels 29a, der von Netzpolitik.org veröffentlicht wurde(öffnet im neuen Fenster) , heißt es lediglich, dass ein solches System "nicht ungezielt und ohne Zusammenhang mit einer Straftat, einem Strafverfahren oder einer tatsächlichen und gegenwärtigen oder tatsächlichen und vorhersehbaren Gefahr einer Straftat" eingesetzt werden darf.
Eine solche Post-Fernidentifizierung könnte zudem ohne Richtervorbehalt starten. Eine Genehmigung müsste dem Entwurf zufolge erst 48 Stunden nach dem Start des Datenabgleichs vorliegen. Selbst dann gibt es eine Ausnahme, wenn das System zur Erstidentifizierung eines "potenziell Verdächtigen" genutzt werden soll. Der Verdacht soll dabei auf "objektiven und überprüfbaren Fakten in Verbindung mit direkter Verbindung zu einer Straftat" basieren. Jede Verwendung sei "auf das für die Aufklärung einer konkreten Straftat unbedingt erforderliche Maß zu beschränken" .
Inwieweit sich der Entwurf über die vorläufige Einigung vom Dezember 2023 hinwegsetzt, ist unklar. So schrieb das Europaparlament in seiner Pressemitteilung (öffnet im neuen Fenster) damals noch, die nachträgliche biometrische Fernidentifizierung werde ausschließlich bei der gezielten Suche nach einer Person eingesetzt, die im Verdacht stehe, eine schwere Straftat begangen zu haben oder deswegen verurteilt wurde. In der Mitteilung des Ministerrats(öffnet im neuen Fenster) wurde diese Regelung jedoch nicht erwähnt.
Der Vorschlag stößt bei Europaabgeordneten und Bürgerrechtsaktivisten nun auf scharfe Kritik.
FDP: Bedrohung für die Bürgerrechte
Es sei in dem Entwurf völlig unklar, "ab wann eine biometrische Identifizierung nicht mehr als 'Echtzeit', sondern als 'nachgelagert' gilt" , sagte die Europaabgeordnete Svenja Hahn Netzpolitik.org und fügte hinzu: "Der nachverhandelte Text zur nachträglichen biometrischen Identifizierung ist eine Bedrohung für Bürgerrechte."
Ihrer Einschätzung zufolge könnte künftig "jede administrative Behörde" den Einsatz von Systemen genehmigen, sowohl davor als auch danach. "Selbst geringfügige Ordnungswidrigkeiten könnten durch Gesichtserkennung verfolgt werden. Das wäre ein völlig unverhältnismäßiger Einsatz biometrischer Technologie" , warnte Hahn, die für die Fraktion der Liberalen an den Trilogverhandlungen mit den Mitgliedstaaten beteiligt war.
Präzedenzfall G20-Gipfel
Die nachträgliche Auswertung von Kameraaufnahmen zur Identifizierung von Verdächtigen führte schon in der Vergangenheit zu Streit zwischen der Polizei und Datenschützern. So untersagte der frühere Hamburger Datenschutzbeauftragte Johannes Caspar der Polizei die Nutzung einer Gesichtsdatenbank, die sie nach den Krawallen während des G20-Gipfels im Jahr 2017(öffnet im neuen Fenster) angelegt hatte.
Damals wurde Video- und Bildmaterial aus Überwachungskameras auf S-Bahnhöfen, Kameras der Polizei, aus Medien sowie im Internet hochgeladenen privaten Aufnahmen ausgewertet. Dabei wurden die Gesichter von allen in den Aufnahmen erfassten Personen per Gesichtserkennungssoftware vermessen und die Templates in einer Datenbank hinterlegt. Sollte der Vorschlag zu Artikel 29a umgesetzt werden, wäre das Vorgehen der Hamburger Polizei wohl zulässig.
Kritik von Edri und Domscheit-Berg
Die Organisation für Europäische Digitale Rechte (Edri) warnt noch vor weiteren Einsatzmöglichkeiten dieser Technik. So könnten Behörden mit diesem Text die nachträgliche biometrische Überwachung von Demonstrationen rechtfertigen, wenn dort Straftaten verübt wurden oder auch nur "vorhersehbar" und damit zu erwarten seien, sagte Edri-Referentin Ella Jakubowskas laut Netzpolitik.org. "Alles in allem ist die Einigung eine Menschenrechtskatastrophe in Bezug auf die biometrische Überwachung" , sagte Jakubowska.
Scharfe Kritik an den Plänen äußerte auch die Bundestagsabgeordnete Anke Domscheit-Berg. "Was jetzt als KI-Verordnung auf den Weg gebracht werden soll, lässt sich kaum noch mit dem Label 'europäische Werte' versehen, denn Tür und Tor werden biometrischer Massenüberwachung geöffnet, selbst bei Ordnungswidrigkeiten, kleinen Straftaten und wenn sie noch nicht passiert sind", schrieb die Linke-Politikern auf X(öffnet im neuen Fenster) .
Sie warf der Ampelkoalition vor, damit den Koalitionsvertrag zu verletzen. Darin hatten sich SPD, Grüne und FDP darauf geeinigt , biometrische Erkennung im öffentlichen Raum europarechtlich auszuschließen.
Der finale Text der KI-Verordnung soll bis Ende des Monats vorliegen. Dann könnten das Europaparlament und die EU-Mitgliedstaaten in den folgenden Wochen darüber abstimmen.