Texte mit KI: "ChatGPT hat den Verstand verloren"

Ein Bug in ChatGPT schien für besonders schlechte Ausgaben zu sorgen. Das Tool halluzinierte und gab nur noch Kauderwelsch aus.

Artikel veröffentlicht am 21. Februar 2024, 13:22 Uhr, Oliver Nickel

ChatGPT denkt sich einfach neue Sachen aus. Das ist wohl ein Bug. (Bild: KI-generiert durch Bing Image Creator/Dall-E)

Wenn es um Large Language Models geht, dann ist ChatGPT aktuell noch immer eine Referenz. Das Sprachmodell wird schließlich in vielen Bereichen in der Entwicklung oder in Microsofts Produkten verwendet. Aktuell scheint das Modell sich allerdings sehr merkwürdig zu verhalten. Es erstellt unzusammenhängende Texte und halluziniert. Das ist an sich nichts Neues, allerdings schienen kürzlich viele Kunden auf diese Probleme zu stoßen.

"In den letzten Stunden haben mehrere Leute von Problemen mit ChatGPT berichtet", schreibt Gary Marcus im eigenen Blog-Post. Er trägt diverse Meldungen von ChatGPT-Kunden zusammen, die auf ähnliche Probleme stoßen. Der Konsens: ChatGPT scheint aktuell fehlerbehaftet zu sein und deshalb ständig schlechte Ergebnisse und Halluzinationen zu generieren. "ChatGPT Enterprise hat den Verstand verloren", postet eine Userin auf X. Die Betroffenen senden dazu meist Screenshots mit Beweisen. Tatsächlich ergeben die dort zu sehenden ChatGPT-Ausgaben keinen Sinn und waren deshalb wertlos.

OpenAI hat Lösung gefunden

Nachrichten über das Problem mit dem LLM verbreiteten sich schnell über soziale Netzwerke. Nun ist auch das ChatGPT-Entwicklerstudio OpenAI darauf aufmerksam geworden. Das Unternehmen hat auch bereits ein Status-Update gepostet. Das Problem sei bereits identifiziert worden und wird wohl aktuell bereits behoben.

Laut einem weiteren Status-Update gab es einen Bug in den Inferencing-Kernels. Auf einigen Grafikeinheiten wurden falsche Ergebnisse ausgegeben. Das Modell suchte sich so inkorrekte Nummern (als Repräsentanten für gesampelte Wörter) heraus. Deshalb ergaben Ausgaben keinen Sinn mehr. Die Status-Updates werden unter dem Thema "unerwartete Reaktionen von ChatGPT" in einer Übersicht zusammengefasst.

Ein Vorfall wie dieser zeigt, wie instabil ein LLM wie ChatGPT sein kann. Auf der anderen Seite setzen immer mehr Unternehmen auf eben diese Techniken, um Arbeitszeiten und am Ende Personal einsparen zu können. Risiken wie die aktuellen Probleme mit ChatGPT sollten dabei ebenfalls beachtet werden.

Weitere Informationen zum Thema künstliche Intelligenz gibt es hier in unserem Karriere-Ratgeber.

Nachtrag vom 22. Februar 2024, 8:21 Uhr

OpenAI konnte laut eigenen Aussagen das Problem mit einem Patch beheben. Wir haben den Text entsprechend ergänzt.