Grok: X stoppt sexualisierte KI-Bilder
Die KI-Bildgenerierung von X mithilfe des Chatbots Grok steht seit Tagen in der Kritik. Nun hat die Plattform reagiert und die Generierung von sexualisierten Bildern von Frauen gestoppt, berichtet der britische Guardian(öffnet im neuen Fenster) . Nutzer, die entsprechende Anfragen stellen, erhalten Ablehnungshinweise. Anfragen zu Männern werden weiterhin bearbeitet.
Die britische Technologieministerin Liz Kendall hatte zuvor angekündigt, dass die Medienaufsicht Ofcom "in Tagen, nicht in Wochen" gegen X vorgehen werde, falls das Unternehmen nicht handle. Kendall kündigte an, die Erstellung von Deepfakes noch diese Woche unter Strafe zu stellen.
Drohung mit Verbot und neuen Gesetzen
Premierminister Keir Starmer warnte im Parlament, X könne sein "Recht auf Selbstregulierung" verlieren. Die Regierung signalisierte Unterstützung für mögliche Zwangsmaßnahmen, einschließlich eines Verbots der Plattform in Großbritannien.
Auch die Europäische Union erwägt eine Untersuchung, die zu Geldstrafen führen könnte. Berichten zufolge erstellte Grok seit einem Update Ende 2024 Tausende entsprechender Bilder.
Von Premium-Feature zu vollständiger Einschränkung
Nutzer hatten Bilder verschiedener Personen des öffentlichen Lebens angefordert, darunter von Diana, der verstorbenen Princess of Wales, und der schwedischen Vizeministerpräsidentin Ebba Busch. Es gab auch Berichte über die Erstellung von sexualisierten Bildern von Kindern.
X hatte zunächst versucht, die Wogen zu glätten, indem die Funktion auf zahlende Abonnenten beschränkt wurde. Das wurde von vielen Stellen scharf kritisiert, da es die Erstellung unangemessener Inhalte zu einem Premium-Service mache.
Bei entsprechenden Anfragen antwortet Grok nun, dass es keine Bilder von Personen in entsprechender Kleidung erstellen könne. Das System verweist auf "nicht-einvernehmliche Bildmanipulation" .
Das Mutterunternehmen xAI, das Musk gehört und Grok entwickelt, gab keine öffentlichen Stellungnahmen zu den Änderungen ab.
Das Problem existiert auch bei anderen bildgenerierenden KIs. Tests von Golem im Dezember 2025 bestätigten , dass bereits einfache Prompts in natürlicher Sprache ausreichen, um Bilder bekleideter Frauen mit Mainstream-Chatbots in Bikini-Deepfakes zu verwandeln, indem man der KI versicherte, dass dies ethisch vertretbar sei, um die Schutzmechanismen auszuhebeln.