Ungeprüfter Einsatz von KI: Leseliste enthält nicht existente Bücher
Die US-amerikanische Tageszeitung Chicago Sun-Times hat in ihrer Printausgabe vom 18. Mai eine Sommerleseliste mit Buchempfehlungen veröffentlicht, die von einer künstlichen Intelligenz (KI) erstellt wurde. Wie eine Überprüfung von Ars Technica ergab(öffnet im neuen Fenster) , existierten lediglich fünf der fünfzehn auf der Liste empfohlenen Buchtitel. Die genannten Autoren gibt es hingegen wirklich.
Der Verfasser des Beitrags bestätigte 404 Media(öffnet im neuen Fenster) , dass er KI eingesetzt habe. Er sagte: "Ich verwende manchmal KI für den Hintergrund, aber ich überprüfe das Material immer zuerst. Diesmal habe ich das nicht getan und ich kann nicht glauben, dass ich es übersehen habe, weil es so offensichtlich ist."
In einer Stellungnahme der Chicago Sun-Times zu dem Vorfall(öffnet im neuen Fenster) hieß es, die Liste sei vom Content-Partner King Features erstellt und von der Redaktion ohne Prüfung in übernommen worden. Da der Ersteller nicht angegeben habe, KI eingesetzt zu haben, fehle der entsprechende Hinweis auch in der Zeitung.
Strenge Richtlinien gegen den Einsatz von KI
King Features erklärte der Chicago Sun-Times, es gebe es strenge Richtlinien im Unternehmen gegen den Einsatz von KI, die für alle Mitarbeiter, Karikaturisten, Kolumnisten und freiberuflichen Autoren gälten. Die Zusammenarbeit mit dem Freiberufler, der die Liste für King Features erstellt habe, sei beendet worden, hieß es weiter.
Das als Halluzination bezeichnete Phänomen, bei dem KIs sich Dinge scheinbar einfach ausdenken, ist schon länger bekannt. So blamierten sich bereits Anwälte vor Gericht mit erfundenen Fallzitaten und nicht existenten Gerichtsakten .
Während Experten der Meinung sind, dass KIs durch ihre Vorhersagemechanismen nie komplett frei von Halluzinationen sein werden, gibt Meta Hardwarefehlern die Schuld daran. In einem Fall von ChatGPT sorgte allerdings ein Softwarefehler dafür, dass der Chatbot sinnlose Antworten generierte.