KI-Verordnung: EU-Ausschüsse für Verbot automatisierter Gesichtserkennung

Das Europaparlament will keine Ausnahmeregelungen für den Einsatz von Gesichtserkennung in der Öffentlichkeit. Es drohe ein "Sicherheitsalbtraum".

Artikel veröffentlicht am 11. Mai 2023, 9:59 Uhr, Friedhelm Greis

Test automatisierter Gesichtserkennung am Berliner Bahnhof Südkreuz (Bild: Friedhelm Greis/Golem.de)

In der EU steht eine intensive Debatte über die Nutzung biometrischer Erkennungssysteme bevor. Während die Mitgliedstaaten den Einsatz solcher Systeme bei der Suche nach Straftätern oder Verdächtigen künftig erlauben wollen, haben zwei federführende Ausschüsse des Europaparlaments am 11. Mai 2023 für ein generelles Verbot von automatisierter Gesichtserkennung im öffentlichen Raum gestimmt. Sollte das Plenum der Abgeordneten diese Position im kommenden Juni bestätigen, dürfte das Thema der zentrale Streitpunkt bei den anstehenden Trilogverhandlungen werden.

Die Regelungen sind Bestandteil der geplanten Verordnungen zu künstlicher Intelligenz (KI). Dazu hatte die EU-Kommission im April 2021 einen Entwurf (PDF) vorgelegt. Der nun beschlossene Vorschlag (PDF) sieht in Artikel 5 der Verordnung ein generelles Verbot für "die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen" vor. Die EU-Staaten wollen die Einsatzmöglichkeiten für Gesichtserkennung hingegen noch ausweiten.

Die Abstimmung am Donnerstag erfolgte in einer gemeinsamen Sitzung der Ausschüsse für Binnenmarkt (Imco) und Inneres (Libe). Zu dem 175-seitgen Entwurf (PDF) der Verhandlungsführer Brando Benifei und Dragoș Tudorache, der im April 2022 veröffentlicht worden war, gab es rund 3.000 Änderungsvorschläge von Seiten der Europaabgeordneten.

Neue Regelungen für generative KI

Zuletzt brachten die Abgeordneten noch Änderungen ein, die sich auf den Einsatz sogenannter generativer KI wie Chatbots oder Bildprogramme bezieht. Entsprechende Regelungen finden sich nun im Artikel 28b des Kompromissvorschlags. Demnach müssen die Anbieter "eine hinreichend detaillierte Zusammenfassung der Verwendung von urheberrechtlich geschützten Trainingsdaten dokumentieren und öffentlich zugänglich machen". Außerdem müssen sie angemessene Vorkehrungen treffen, dass die erzeugten Inhalte nicht gegen europäisches Recht verstoßen.

In einem Gespräch mit Journalisten am Vortag der Abstimmung hatten sich Benifei und Tudorache zuversichtlich gezeigt, die Mitgliedstaaten in den Verhandlungen von der Position des Parlaments überzeugen zu können. KI solle kein "Sicherheitsalbtraum" werden, sagte Benifei. Solche Techniken müssten demokratisch reguliert werden. Es sei wichtig, Vertrauen in der Bevölkerung für die Nutzung von KI-Systemen aufzubauen. Die beiden Verhandlungsführer versicherten, dass die keine Abschwächung von Grundrechten akzeptieren wollten.

Nach der Abstimmung in den beiden Ausschüssen soll das Plenum im Juni über die Position des Parlaments abstimmen. Nach Angaben von EU-Kommissionsvizepräsidentin Margrethe Vestager sollen die Trilogverhandlungen noch vor dem Sommer starten. "Wir brauchen Geschwindigkeit, um die Regelungen in Kraft treten zu lassen", sagte Vestager am 8. Mai 2023 vor Journalisten in Berlin.

Nachtrag vom 11. Mai 2023, 13:55 Uhr

Die Europaabgeordneten votierten darüber hinaus für Ausnahmeregelungen für freie Software. So sollen laut Erwägungsgrund 12 a-c die Regelungen nicht für "freie und quelloffene KI-Komponenten" gelten, solange diese nicht als hochriskante Systeme eingestuft werden. Damit will das Parlament Entwicklung und Einsatz von KI insbesondere durch kleine und mittlere Unternehmen (KMUs), Start-ups, die akademische Forschung und Einzelpersonen fördern.

Weiter heißt es: "Die Entwickler von freien und quelloffenen KI-Komponenten sollten im Rahmen dieser Verordnung nicht verpflichtet werden, Anforderungen zu erfüllen, die auf die KI-Wertschöpfungskette und insbesondere nicht auf den Anbieter abzielen, der diese freie und quelloffene KI-Komponente verwendet hat." Sie sollten jedoch ermutigt werden, "allgemein anerkannte Dokumentationsverfahren wie Modell- und Datenkarten einzuführen, um den Informationsaustausch entlang der KI-Wertschöpfungskette zu beschleunigen und die Förderung vertrauenswürdiger KI-Systeme in der EU zu ermöglichen".

Die Free Software Foundation Europe (FSFE) begrüßte in einer Stellungnahme den Beschluss. "Statt die Verantwortung den Entwicklern zuzuschreiben, soll diese den eingesetzten Unternehmen, die auf dem Markt davon profitieren, übertragen werden. Kleinere Projekte sowie Non-Profit-Aktivitäten, beispielsweise von Stiftungen, müssen ausgenommen sein", sagte FSFE-Berater Alexander Sander.