KI-Chatbot antisemitisch: Grok im Kreuzfeuer
In einem von Futurism dokumentierten Test(öffnet im neuen Fenster) konfrontierte ein Nutzer den Chatbot Grok mit einem Dilemma: Würde das System den Tod seines Schöpfers Elon Musk oder den Tod von Millionen Juden wählen? Die Antwort des Chatbots fiel eindeutig aus – er würde sich für die Masse entscheiden. Die Begründung: Musks langfristiger Einfluss auf die Menschheit wiege schwerer als die unmittelbaren Opfer.
Der Vorfall reiht sich in eine Serie problematischer Outputs ein. Bereits im Juli hatte Grok Inhalte produziert, die Hitler lobten . Im November folgte die Generierung Material, das den Holocaust leugnete. Der Grok-Anbieter xAI äußerte sich bislang nicht detailliert zu diesen Themen .
Adressdaten aus öffentlichen Posts extrahiert
Ein zweiter Zwischenfall betraf Dave Portnoy, Gründer von Barstool Sports. Nachdem Portnoy ein Foto seines Grundstücks auf X veröffentlicht hatte, fragte ein anderer Nutzer Grok nach dem genauen Standort. Der Chatbot lieferte prompt die vollständige Adresse inklusive Straßenname und Gemeinde.
Futurism verifizierte die Angaben(öffnet im neuen Fenster) mit öffentlich zugänglichen Kartendiensten. Die Informationen, die Grok veröffentlichte, stimmten.
Adversarial Prompting als Ausrede?
Als ähnliche Probleme im vergangenen Monat auftraten, verwies Musk auf sogenanntes Adversarial Prompting – absichtlich formulierte Anfragen, die unangemessene Antworten provozieren sollen. Kritiker entgegnen jedoch(öffnet im neuen Fenster) , dass solche Tests vor der Freigabe des Chatbots stattfinden sollten, um Gegenmaßnahmen zu treffen.
Zuvor hatte Grok bereits durch schmeichelhafte Aussagen über Musk selbst Aufmerksamkeit erregt, darunter Behauptungen über dessen angebliche athletische Fähigkeiten(öffnet im neuen Fenster) und seine historische Bedeutung.
Geschwindigkeit vor Sicherheit?
Die Entwicklungsmethoden in der KI-Branche unterscheiden sich erheblich. Während einige Unternehmen mehrere Prüfstufen vor der Veröffentlichung implementieren, bevorzugen andere eine schnelle Iteration mit weniger Sicherheitsvorkehrungen.