KI-Slop bei PwC: GPTZero findet falsche Daten und halluzinierte Quellen
Die auf die Identifikation von KI-geschriebenen Texten spezialisierte Webseite GPTZero hat in Publikationen des Beratungsunternehmens PwC KI-generierte Inhalte entdeckt. Diese reichen von komplett KI-generierten Berichten bis zu halluzinierten Quellenangaben und Statistiken.
Im laut GPTZero(öffnet im neuen Fenster) zu 100 Prozent KI-generierten PwC-Bericht Transforming Governance aus dem Jahr 2025 wird etwa eine Methode namens Citizen Pulse erläutert, die angeblich von Regierungen in Dänemark, Saudi-Arabien, den USA und Australien verwendet wird. Die angegebenen Quellen würden dies aber in keiner Weise belegen, heißt es weiter.
In drei weiteren Berichten zu den Themen Mobilität, der Wirtschaftspolitik der Golfstaaten und der Cybersicherheit sollen ebenfalls schwerwiegende Mängel enthalten sein. So wurden etwa für China die Anzahl von Ladestationen mit 13 Millionen statt der tatsächlichen 3,58 Millionen angegeben, Fachartikel zitiert, die nicht existieren, und Autoren genannt, deren Daten frei erfunden wurden.
Verräterische Metadaten und UTM-Parameter
Neben der Analyse der Textinhalte entdeckte GPTZero auch andere Hinweise auf die Nutzung von KI. Der deutlichste Hinweis war der Link zu einer Quelle, in dem der Parameter utm_source=chatgpt.com zu sehen war. Bei den Beschreibungen vieler Quellen wurden zudem nicht die für Menschen sichtbaren Titel zitiert, sondern jene aus den HTML-Metadaten der Quellwebseiten.
Ein weiterer PwC-Artikel handelte vom Unterschied zwischen schnellem Denken und langsamem logischen Schlussfolgern und sollte dies mit spezifischen ChatGPT-Modellen als Beispielen belegen. In der angegebenen Quelle finden sich aber weder die Begriffe noch die Modelle. GPTZero deutet dies als Zeichen dafür, dass die generative KI ihre eigenen Informationen in die Quellenbeschreibung aufgenommen hat.
Hinzu kommen Passagen, die lediglich als typischer KI-Slop beschrieben werden, etwa hochtrabende und inhaltsleere Formulierungen. GPTZero stellt immer wieder fest, dass Berichte namhafter Unternehmen teils grobe Fehler aufgrund der Verwendung von KI enthalten.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.