Artificial Intelligence Act: EU einigt sich auf KI-Verbote mit Ausnahmen
Die EU hat sich auf Regeln für den Einsatz von sogenannter künstlicher Intelligenz geeinigt. Zuvor hatten die Mitgliedsstaaten lange mit dem Europaparlament verhandelt . Die Verhandlungspartner haben dabei neben Verboten von als riskant eingestuften Anwendungen auch Ausnahmen für den Einsatz durch Strafverfolgungsbehörden beschlossen. Nach Aussagen von EU-Parlamentariern(öffnet im neuen Fenster) selbst handelt es sich um das weltweit erste KI-Gesetz.
KI-Anwendungen sollen in drei Risikogruppen eingeteilt werden: minimal, hoch und inakzeptabel. Über deren Einordnung herrschte zuletzt noch Uneinigkeit (g+). Letztere sollen verboten werden, da sie eine "potenziellen Bedrohung der Bürgerrechte und der Demokratie" darstellen können. Dazu zählt das ungezielte Auslesen von Fotos zur Erstellung von Gesichtserkennungsdatenbanken und Systeme zur Kategorisierung nach Merkmalen wie politischer Überzeugung oder sexueller Orientierung.
Auch "KI-Systeme, die das Verhalten von Menschen manipulieren, um ihren freien Willen zu umgehen" sollen verboten werden, ebenso wie Systeme, die Beschäftigte am Arbeitsplatz auswerten oder Privatpersonen aufgrund ihres Sozialverhaltens bewerten.
Eine Ausnahme für biometrische Identifikationssysteme behält die EU-Kommission für Strafverfolgungsbehörden vor. Diese sollen mit richterlicher Genehmigung und zeitlich sowie örtlich begrenzt für eine "streng definierte Listen von Straftaten" eingesetzt werden können, beispielsweise für die gezielte Suche nach Personen oder "zur Abwehr einer konkreten und gegenwärtigen terroristischen Bedrohung" .
Von der Leyen begrüßt das Gesetz
Für andere als inakzeptabel riskant eingestufte KI-Systeme wurden Transparenzanforderungen vereinbart. Anbieter müssen eine technische Dokumentation zur Verfügung stellen und Informationen über die verwendeten Trainingsdaten anbieten. Sollten die Modelle Kriterien für hochriskante Anwendungen erfüllen, gibt es eine Berichtspflicht für "schwerwiegende Vorfälle" sowie für die Energieeffizienz.
"Unser KI-Gesetz wird einen wesentlichen Beitrag zur Entwicklung globaler Regeln und Grundsätze für menschenzentrierte KI leisten" , so Ursula von der Leyen. Die Präsidentin der Europäischen Kommission begrüßte das Gesetz. Künstliche Intelligenz verändere schon heute den Alltag, so von der Leyen(öffnet im neuen Fenster) , aber "klug und breit eingesetzt, verspricht KI enorme Vorteile für unsere Wirtschaft und Gesellschaft."
Da sich die Regulierung auf erkennbare Risiken konzentriere, würde der Artificial Intelligence Act laut von der Leyen "verantwortungsvolle Innovation" fördern, indem er "die Sicherheit und die Grundrechte von Menschen und Unternehmen" garantiere.