Künstliche Intelligenz: EU kippt KI-Tools für sexualisierte Deepfakes
Vertreter der EU-Mitgliedstaaten und des Europäischen Parlaments haben sich auf eine Anpassung der KI-Verordnung geeinigt, die Anwendungen zur Erstellung sexualisierter Deepfakes untersagt. Das teilte die zyprische EU-Ratspräsidentschaft nach Verhandlungen mit(öffnet im neuen Fenster). Greift die Reform, würde das Verbot ab dem 2. Dezember 2026 federführend vom KI-Amt der EU durchgesetzt. Plenum und Ministerrat müssen die Einigung noch bestätigen, was als Formalie gilt.
Grok-Skandal als Auslöser
Auf EU-Ebene rückte das Thema Ende vergangenen Jahres durch den KI-Chatbot Grok in den Fokus. Bis das Unternehmen von Elon Musk die Funktion einschränkte, ließen Nutzer die KI wiederholt Frauen auf ausgewählten Bildern entkleiden.
Vom Strafrecht zum Werkzeugverbot
Die Verschärfung markiert einen Perspektivwechsel: Während eine bereits seit Mai 2024 geltende EU-Richtlinie die Tat selbst unter Strafe stellt – also das Anfertigen und Verbreiten manipulierter sexueller Darstellungen ohne Zustimmung -, zielt die neue Regelung auf das Werkzeug ab, also die KI-Anwendung selbst. Deutschland hat die Richtlinie bislang nicht umgesetzt, hat dafür aber noch bis zum Sommer kommenden Jahres Zeit.
Verhandlungsteilnehmer betonen, dass die Bildbearbeitung nicht übermäßig eingeschränkt werden soll. Dafür soll im Gesetz genau definiert werden, was als sexualisierter Inhalt gilt. Nicht einvernehmliche Bikini-Bilder, wie sie über Grok auf X verbreitet wurden, könnten demnach erlaubt bleiben.
Wasserzeichenpflicht verschoben
Andere Teile der KI-Verordnung werden auf Wunsch der Industrie entschärft oder verschoben. Anbieter von Chatbots wie ChatGPT oder Claude müssen sich erst ab Dezember 2026 an Vorschriften halten, die ursprünglich bereits ab August greifen sollten – dazu zählt die Pflicht, generierte Bilder und Videos mit Wasserzeichen zu kennzeichnen. Weitere Regeln werden erst ab Dezember 2027 durchgesetzt. Auch für die Maschinenbaubranche sollen Ausnahmen geschaffen werden, um Doppelregulierung zu vermeiden.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.