KI-Verordnung: EU-Ausschüsse wollen Nacktbildgeneratoren verbieten
Das Europaparlament fordert ein Verbot von KI-Anwendungen, die sexualisierte Bilder von natürlichen Personen ohne deren Einwilligung erstellen. Die Ausschüsse für Binnenmarkt und Inneres votierten am 18. März 2026 gemeinsam für eine entsprechende Ergänzung der EU-weiten KI-Verordnung. Solche Systeme sollten als verbotene KI-Praktiken eingestuft werden.
Mit einer großen Mehrheit von 101 gegen 9 Stimmen bei 8 Enthaltungen stimmten die Abgeordneten laut Mitteilung(öffnet im neuen Fenster) für einen entsprechenden Änderungsvorschlag(öffnet im neuen Fenster) (PDF).
Darin ist ein neuer Erwägungsgrund 5a vorgesehen, in dem es heißt: "KI-Systeme, die realistische Bilder oder Videos, die sexuell eindeutige Handlungen oder die intimen Bereiche einer identifizierbaren natürlichen Person ohne deren Einwilligung darstellen, verändern, manipulieren oder künstlich erzeugen, fügen den Opfern Schaden zu und verletzen die Grundrechte auf Würde und Privatsphäre." Die Verbreitung solcher Systeme habe "einen dringenden Bedarf an einem ausdrücklichen regulatorischen Verbot geschaffen" .
Das wohl bekannteste Beispiel für eine solche Anwendung ist der Chatbot Grok von Elon Musks KI-Firma xAI, die inzwischen mit SpaceX fusionierte. Die EU leitete im Januar 2026 ein Verfahren gegen die Plattform X ein , auf der massenhaft von Grok generierte sexualisierte Bilder von Frauen und Kindern aufgetaucht waren. Einer Analyse zufolge sind auf den App-Stores von Google und Apple zahlreiche Nudify-Apps verfügbar, die mithilfe von künstlicher Intelligenz Personen auf Fotos digital entkleiden können.
In einem neuen Artikel 5a wird das Verbot genauer geregelt. Den beiden EU-Ausschüssen zufolge soll das Verbot nicht für Anbieter oder Betreiber von KI-Systemen gelten, "die wirksame Sicherheitsmaßnahmen, wie technische und organisatorische Maßnahmen, getroffen haben, um die Erzeugung solcher Darstellungen zu verhindern und einen Missbrauch kontinuierlich zu vermeiden" . Überdies sollte das Verbot KI-Anbieter nicht daran hindern, ihre technischen Fähigkeiten zur Veränderung, Manipulation oder künstlichen Erzeugung von Bildern oder Videos weiterzuentwickeln.
EU will KI-Verordnung abschwächen
Die Änderungsvorschläge stehen im Zusammenhang mit den Plänen der EU-Kommission, die KI-Regulierung zu verschieben und teilweise abzuschwächen . Dabei schlagen die Abgeordneten unter anderem vor, verschiedene Regelungen für hochriskante KI-Anwendungen nicht schon im August 2026, sondern erst im Dezember 2027 beziehungsweise August 2028 in Kraft treten zu lassen. Das Verbot der Nacktbildgeneratoren würde demnach ab Dezember 2027 gelten.
Darüber hinaus sollen KI-Anbieter personenbezogene Daten verarbeiten dürfen, um Verzerrungen in KI-Systemen zu erkennen und zu korrigieren. Das soll jedoch nur "im unbedingt notwendigen Fall" geschehen.
Das Europaparlament soll am 26. März 2026 über den Vorschlag abstimmen. Sollte es dafür eine Mehrheit geben, können die Verhandlungen mit den EU-Mitgliedstaaten über den endgültigen Wortlaut des Gesetzes starten. Der Europäische Rat hatte sich am 13. März 2026 ebenfalls dafür ausgesprochen(öffnet im neuen Fenster) , die Erstellung von Nacktbildern als verbotene KI-Praxis einzustufen.
- Anzeige Hier geht es zu The Apprentice - The Trump Story bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.