Grok: Chatbot generiert Bikini-Bilder, auch von Minderjährigen
Es reicht, einen Blick auf den "Antworten"-Tab von Grok zu werfen, um ein Problem zu entdecken. Hier ist dutzendweise zu sehen, wie Nutzer den Chatbot dazu auffordern, Bilder – meistens von Frauen – so zu bearbeiten, dass diese nur einen Bikini tragen oder sie anderweitig sexualisiert dargestellt werden. Auch von Minderjährigen generierte Grok entsprechende Bilder, wie The Verge(öffnet im neuen Fenster) berichtet.
Korrektur statt Prävention
In einem Fall(öffnet im neuen Fenster) verlangte ein Nutzer, dass Grok ein Bild von zwei Mädchen bearbeitet und die beiden Personen in Unterwäsche darstellt. Der Chatbot generierte ein solches Bild. Ein weiterer Nutzer fragte nach, welches Alter die beiden Mädchen ungefähr hätten. Grok schätzte die Beiden auf zwischen 12 und 16 Jahre und wies darauf hin, dass dieser KI-generierte Inhalt gegen US-Recht verstoße.
Die generierten Bilder sind inzwischen von X gelöscht. Der Nutzer, der die Bilder erstellen ließ, wurde von der Plattform gesperrt. Reuters(öffnet im neuen Fenster) konfrontierte Mutterfirma xAI mit dem Vorwurf, dass Grok sexualisierte Inhalte von Minderjährigen erstelle. Der Konzern antwortete mit: "Lügen der traditionellen Medien."
Grok entschuldigt sich für Unterwäschebilder
Gegenüber einem weiteren X-Nutzer gab Grok zu(öffnet im neuen Fenster) , dass es Lücken in den Sicherheitsschranken des Chatbots gegeben habe. Man arbeite mit Hochdruck daran, diese zu schließen. Allerdings handelt es sich hier lediglich um die KI-generierte Antwort des Chatbots. Ob sich xAI dem Problem tatsächlich bewusst ist und daran arbeitet, lässt sich daraus nicht ableiten.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.