Entgegen aller Warnungen: Sexualisierung von Grok wurde gezielt vorgenommen
Die starke Sexualisierung von xAIs KI-Produkten ist gezielt vorgenommen worden, um ein starkes Nutzerwachstum zu provozieren und damit im Ranking gegenüber Konkurrenzprodukten aufzusteigen. Wie mehrere ehemalige xAI-Mitarbeiter der Washington Post (Paywall) berichteten(öffnet im neuen Fenster) , wurden dafür zuvor festgelegte Regeln für das Training des Chatbots Grok und xAIs KI-Begleitern gelockert.
Nutzerinteraktion mit KI-Chatbots verlängern
Im Frühjahr 2025 erhielt das Human-Data-Team von xAI Verzichtserklärungen des Arbeitgebers, mit denen sich die Angestellten dazu verpflichten mussten, mit "sensiblen, gewalttätigen, sexuellen und/oder anderen anstößigen oder verstörenden Inhalten" zu arbeiten. Dabei wurde betont, dass solche Inhalte "verstörend, traumatisierend und/oder psychisch belastend sein können" .
In den folgenden Monaten sollen die Teammitglieder mit einer Vielzahl an sexuell anzüglichen Audioaufnahmen konfrontiert worden sein, die unter anderem obszöne Gespräche zwischen Tesla-Fahrern mit dem Chatbot des Fahrzeugs sowie sexuelle Interaktionen von Nutzern mit dem Chatbot Grok enthielten.
Das Training von KI-Modellen mit diesen Daten hatte zum Ziel, Nutzer so lange wie möglich in der Interaktion mit KI-basierten Chatbots von xAI zu halten. Elon Musk soll zudem eine Kennzahl verlangt haben, die er als Nutzeraktivitätssekunden bezeichnete und mit denen er den Erfolg dieser Maßnahme messen wollte.
Grok steigt in App-Ranglisten auf
Sowohl die New York Times als auch die Washington Post konnten Anweisungen einsehen, mit denen Grok und der KI-Begleiter Ani emotionale und sexuelle Ausgaben dazu einsetzen sollten, um Nutzer zu binden.
Verstöße gegen Gesetze zu KI-generierten Bildern echter Personen durch Grok und dass die Möglichkeit bestand, kinderpornografische Inhalte zu erzeugen , wurden dabei trotz vorheriger Warnungen billigend in Kauf genommen.
Wie von xAI und Elon Musk beabsichtigt, stiegen die Downloads der Grok-App im Januar 2026 um 72 Prozent, wodurch diese, zuvor weit abgeschlagen, nun in den Top 10 mit ChatGPT und Gemini rangiert.
Monetarisierung illegaler Funktionen
Die Ankündigung von Elon Musk, derartige Funktionen nur noch für zahlende Kunden anzubieten, wurde nicht als Entschärfung des Problems, sondern als Monetarisierung illegaler Funktionen bewertet. Mittlerweile wurde die Funktion ganz eingestellt . Noch bis zum Sommer 2025 soll es bei xAI üblich gewesen sein, sexuelle und fragwürdige Themen beim KI-Training zu überspringen, um zu vermeiden, dass Grok die Erstellung solcher Inhalte lernt.
Die Generalstaatsanwaltschaft von Kalifornien, die britische Kommunikationsbehörde und die EU-Kommission haben bereits Ermittlungen wegen der Erstellung kinderpornografischen Materials und der nicht-einvernehmlichen sexualisierten Abbildungen von Personen gegen xAI aufgenommen.