KI: EU-Datenschützer fordern Verbot von Gesichtserkennung

Gesichtserkennung und KI würden Freiheit und Grundrechte bedrohen, ein Verbot sei daher notwendig, betonen die Datenschutzbeauftragten.

Artikel veröffentlicht am 22. Juni 2021, 10:52 Uhr, Moritz Tremmel

Gesichtserkennung soll im öffentlichen Raum verboten werden - das fordern nicht nur die Datenschutzbeauftragten in der EU. (Bild: Tumisu/Pixabay)

Der Europäische Datenschutzausschuss (EDSA) und der Europäische Datenschutzbeauftragte (EDSB) fordern in einer gemeinsamen Stellungnahme "ein generelles Verbot des Einsatzes von künstlicher Intelligenz (KI) für die automatisierte Erkennung menschlicher Merkmale in öffentlich zugänglichen Räumen". Das sei wegen der "extrem hohen Risiken", die mit der Technik einhergingen, notwendig.

Hintergrund ist ein Verordnungsvorschlag der Europäischen Kommission zu KI, der großzügige Ausnahmen für den Einsatz biometrischer Erkennungssysteme bei der Suche nach Straftätern oder Verdächtigen enthält, beispielsweise mit Hilfe von automatischer Gesichtserkennung - obwohl er den Einsatz der Technik eigentlich verbietet. Auch bestimmte weitere KI-Anwendungen werden verboten.

"Anwendungen wie die Live-Gesichtserkennung greifen in die Grundrechte und -freiheiten in einem solchen Ausmaß ein, dass sie das Wesen dieser Rechte und Freiheiten in Frage stellen können. Dies erfordert eine sofortige Anwendung des Vorsorgeprinzips", erklärten Andrea Jelinek, Vorsitzende des EDSA, und der EDSB Wojciech Wiewiórowski. Entsprechend sei "ein generelles Verbot des Einsatzes von Gesichtserkennung in öffentlich zugänglichen Bereichen" notwendig. Die Technik bedeute andernfalls das Ende der Anonymität in öffentlichen Räumen.

Kein Zugriff auf die Emotionen der Menschen

Die Datenschutzbeauftragten empfehlen ein Verbot von KI-Systemen, die biometrische Daten verwenden, um Menschen "aufgrund ihrer ethnischen Zugehörigkeit, ihres Geschlechts, ihrer politischen oder sexuellen Orientierung oder aus anderen Gründen, aus denen eine Diskriminierung gemäß Artikel 21 der Charta der Grundrechte verboten ist, in Gruppen einzuteilen."

Auch solle die Nutzung von KI zur Detektion von Emotionen verboten werden. Der Musikstreamingdienst Spotify arbeitet an einer entsprechenden Technik, um Emotionen aus der Stimme abzuleiten, während Amazon mittels Alexa den Gesundheitszustand aus ebendieser ableiten möchte. Zudem solle künstliche Intelligenz für jede Art von sozialem Scoring verboten werden, schreiben die Datenschutzbeauftragten.

Auch zahlreiche zivilgesellschaftliche Organisationen, darunter der Chaos Computer Club (CCC), Digitalcourage, D64, Digitale Freiheit und die Gesellschaft für Informatik, fordern mit der europaweiten Initiative Reclaim your Face ein Verbot von Gesichtserkennung. Als offizielle Europäische Bürgerinitiative (EBI) wollen sie innerhalb eines Jahres eine Million Unterschriften in mindestens sieben EU-Ländern sammeln, um das Thema auf die politische Tagesordnung zu bringen.