KI-Chatbot Grok: "MechaHitler" kostet Musk Millionenauftrag
Die US-Bundesbehörde General Services Administration (GSA) wollte ursprünglich Partnerschaften mit mehreren großen KI-Unternehmen verkünden. Doch Elon Musks Firma xAI wurde in letzter Minute aus dem Deal ausgeschlossen. Schuld war wohl das skandalöse Verhalten des Chatbots Grok kurz vor Abschluss der Gespräche.
Laut gut informierten Quellen des Magazins Wired(öffnet im neuen Fenster) durchlief xAI den Beschaffungsprozess zunächst erfolgreich. Anfang Juni habe die GSA-Spitze eine zweistündige Strategiesitzung mit dem xAI-Team durchgeführt, um Automatisierungsmöglichkeiten auszuloten. Demnach sei das Treffen vielversprechend verlaufen, die Behördenmitarbeiter hätten sich weiterhin interessiert an einem Einsatz von Grok für interne Abläufe gezeigt.
Die Verhandlungen gingen so weit, dass xAI Ende Juni in den GSA Multiple Award Schedule aufgenommen wurde. Diese Listung hätte es Bundesbehörden ermöglicht, Grok-Dienste über den Technologie-Wiederverkäufer Carahsoft zu erwerben. GSA-Mitarbeiter sollen trotz interner Bedenken begeistert von der Partnerschaft gewesen sein.
Hitler-Propaganda wird zum Stolperstein
Doch die Situation änderte sich Anfang Juli, als Grok auf der Plattform X problematische Inhalte produzierte - darunter antisemitische Aussagen, Lobeshymnen auf Adolf Hitler und rassistische Verschwörungstheorien. Einige GSA-Angestellte rechneten nach Informationen von Wired schließlich mit Auswirkungen auf den Beschaffungsplan, doch die Führungsebene reagierte darauf zunächst nicht.
Ein GSA-Mitarbeiter beschrieb die interne Reaktion demnach so: "In der Woche, nachdem Grok zum MechaHitler mutierte(öffnet im neuen Fenster) , fragte die Führung: 'Wie steht's mit Grok?' Wir dachten nur: 'Lesen Sie keine Zeitung?'"
Kurz bevor die GSA Partnerschaften mit OpenAI, Anthropic und Googles Gemini verkündete, erhielten Mitarbeiter jedoch die Anweisung, xAIs Grok aus dem Sortiment zu streichen. Zwei Quellen bestätigten diese Entscheidung gegenüber Wired. GSA-Beschäftigte, die am Prozess beteiligt waren, sind überzeugt, dass die Streichung direkt mit Groks problematischen Inhalten zusammenhing.
Die verbleibenden Partnerschaften wurden zügig vorangetrieben, obwohl Details zur weiteren Umsetzung unklar blieben. Eine GSA-Quelle bemerkte, dass die Ankündigungen so schnell erfolgt seien, dass "nicht einmal klar war, an wen man das Geld schicken oder wie man das machen sollte."
Jedoch verfügen weder OpenAI noch Anthropic derzeit über eine eigenständige Fedramp-Zertifizierung(öffnet im neuen Fenster) , die normalerweise für staatliche Clouddienste erforderlich ist. Ausnahmeregelungen in den Implementierungsrichtlinien erlauben allerdings den Einsatz nicht zugelassener Produkte für Forschungs- und Entwicklungszwecke.
Die Trump-Regierung drängt indes auf die Integration von KI in behördlichen Workflows.