Sexualisierte Bildgenerierung: EU leitet Verfahren gegen Grok-Funktion ein
Die EU-Kommission wird ein Verfahren nach dem Digital Services Act (DSA) gegen xAI einleiten, um Maßnahmen gegen den Chatbot Grok zu ergreifen. Wie das Handelsblatt exklusiv berichtet(öffnet im neuen Fenster) , soll das Verfahren am heutigen 26. Januar 2026 eröffnet werden. Ziel ist es, unter Androhung einer Sperre zu erreichen, dass die Grok-Funktion, mit der sich sexualisierte Bilder echter Personen erstellen lassen, aus dem europäischen Raum zurückgezogen wird.
Zwar ergriff X bereits Maßnahmen, um die Funktion von Grok einzuschränken, diese gehen der EU aber nicht weit genug. So soll es laut Unternehmenschef Elon Musk nur noch zahlenden Abonnenten möglich sein, die kritisierte Funktion zu nutzen. Auch wurden Beschränkungen eingeführt, damit keine Bilder von Kindern mehr sexualisiert werden können.
Bundesdigitalminister Dr. Karsten Wildberger sagte dazu: " Es ist inakzeptabel, dass Frauen und Minderjährige wiederholt Opfer sexualisierter Deepfakes werden, während Plattformen untätig bleiben. Die EU-Kommission handelt richtig, indem sie den Digital Services Act konsequent durchsetzt" und "unsere europäischen Regeln gelten für alle gleichermaßen, auch für große Tech-Konzerne."
Härteres Vorgehen der EU gefordert
Das Verfahren sollte bereits am 19. Januar 2026 eröffnet werden, wurde jedoch vorübergehend gestoppt, da eine negative Reaktion von US-Präsident Donald Trump befürchtet wurde. Dieser hatte zuvor einigen EU-Ländern mit zusätzlichen Zöllen gedroht , falls keine Einigung zu der von ihm geplanten Annexion Grönlands erzielt werde, da habe die EU ihn nicht zusätzlich verärgern wollen, heißt es weiter.
Der US-Präsident nahm seine Zolldrohung mittlerweile wieder zurück , kritisierte in der Vergangenheit aber häufiger das Vorgehen der EU gegen US-Konzerne. Seine Kritik richtet sich insbesondere gegen den DSA , der Betreiber sozialer Medienplattformen unter anderem dazu verpflichtet, illegale Inhalte zu löschen.
Im Rahmen des DSA verhängte die EU im Dezember 2025 eine Strafe in Höhe von 120 Millionen gegen den Kurznachrichtendienst X und ermittelt auch gegen Meta, Google, Apple und Snapchat . Zudem mehren sich Forderungen, dass die EU ihre bestehenden Gesetze stärker gegenüber Digitalkonzernen aus den USA durchsetzen solle. Auch wird eine stärkere Unabhängigkeit von digitalen Diensten aus den USA gefordert.
Update vom 26. Januar 2025, 14:50 Uhr:
Wir haben im Artikel den Beitrag von Bundesdigitalminister Dr. Karsten Wildberger ergänzt.
Hinweis in eigener Sache: Golem organisiert eine neue Konferenz zu IT-Souveränität! Die Rack & Stack(öffnet im neuen Fenster) findet im April statt – bis Ende Januar gelten noch günstigere Ticket-Preise.