KI-Verordnung: Europaparlament verbietet Nacktbildgeneratoren
Die KI-generierte Erstellung sexualisierter Bilder von Personen ohne deren Einwilligung wird in der EU verboten. Das beschloss das Europaparlament am 16. Juni 2026(öffnet im neuen Fenster) mit einer Mehrheit von 423 Ja-Stimmen bei 57 Gegenstimmen und 174 Enthaltungen. Die Regelung zu den KI-Deepfakes soll zum 2. Dezember 2026 in Kraft treten.
Die neue Regelung steht in Zusammenhang mit der Überarbeitung der Digitalgesetze in der EU, was als digitaler Omnibus (g+) bezeichnet wird. Dieser sieht auch eine Novelle der erst 2024 in Kraft getretenen KI-Verordnung vor.
Ursprünglich sollte die Novelle(öffnet im neuen Fenster) (PDF) vor allem geplante Umsetzungsfristen verschieben und die Anforderungen für mittelständische Betriebe lockern. Doch die weit verbreitete Nutzung von KI-generierten Deepfake-Nacktbildern mit der Hilfe von Elon Musks Chatbot Grok führte dazu, ein Verbot solcher KI-Systeme zu ergänzen.
Auch KI-generierte Missbrauchsdarstellungen verboten
Dazu wird der entsprechende Artikel 5 der KI-Verordnung erweitert. Dieser verbietet künftig "das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das realistische Bild-, Video-, Ton- oder ähnliche Inhalte erzeugt oder manipuliert, in denen intime Körperteile einer bestimmbaren natürlichen Person dargestellt werden oder eine an eindeutig sexuellen Handlungen beteiligte bestimmbare Person dargestellt wird, ohne dass die betreffende Person eine aus freien Stücken erfolgende, spezifische, aufgeklärte, eindeutige und ausdrückliche Zustimmung zu dieser Erzeugung oder Manipulation erteilt hat". Ebenfalls verboten wird die KI-Nutzung für Darstellungen von Kindesmissbrauch.
Das Verbot gilt jedoch nur für KI-Systeme, deren Zweckbestimmung die Erzeugung oder Manipulation solcher Inhalte ist. Nicht als manipulativ verboten sind Systeme, bei denen "die Sichtbarkeit der dargestellten intimen Körperteile weder erhöht noch die Art der dargestellten eindeutig sexuellen Handlungen verändert" werden.
Was die Umsetzungsfristen betrifft, so gelten diese für eigenständige Hochrisiko-KI-Systeme erst vom Dezember 2027 an. Ursprünglich war der August 2027 vorgesehen. Vom 2. August 2028 an gelten die Vorgaben für KI-Systeme, "die als Sicherheitskomponenten eingebettet sind und unter sektorale Rechtsvorschriften der EU über Sicherheit und Marktüberwachung fallen".
Wasserzeichen werden Pflicht
Die Anwendung von Wasserzeichen zur Kennzeichnung von KI-generierten Inhalten tritt demnach am 2. Dezember 2026 in Kraft. Von diesem Zeitpunkt müssen KI-generierte Inhalte maschinenlesbar gekennzeichnet werden, um eine höhere Transparenz zu gewährleisten.
Darüber definiert die KI-Verordnung künftig ein sogenanntes Sicherheitsbauteil neu. Künftig muss dessen "Zweckbestimmung" darin bestehen, "Risiken für die Gesundheit und Sicherheit von Personen oder Eigentum abzuwenden". Laut Erwägungsgrund 7 bot die bisherige Definition "nicht die erforderliche Präzision, damit Anbieter von KI-Systemen festlegen können, ob ein KI-System als Sicherheitsbauteil einzustufen ist". Das wiederum berge die Gefahr, "die Einstufung als Hochrisiko-KI-System über das durch den risikobasierten Ansatz dieser Verordnung gerechtfertigte Maß hinaus auszudehnen".
Bevor die Novelle in Kraft tritt, muss der EU-Ministerrat noch zustimmen, was nach der Einigung im Trilog aber eine Formalie sein sollte. Die meisten Bestimmungen des KI-Gesetzes sollen vom 2. August 2026 an gelten.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.