Bixonimania: KI-Chatbots fielen auf eine erfundene Krankheit herein
Eine Forscherin der Universität Göteborg hat ein kleines Experiment durchgeführt: Almira Osmanovic Thunström erfand eine Hautkrankheit namens Bixonimania(öffnet im neuen Fenster), die angeblich durch langen Bildschirmgebrauch und Blaulicht verursacht wird und die Augenlider betrifft. Diese Krankheit existiert nicht. Trotzdem präsentierten ihr mehrere KI-Chatbots die Erfindung kurz darauf als echte Diagnose, wie Nature berichtet(öffnet im neuen Fenster).
Osmanovic Thunström lud im Frühjahr 2024 zwei Preprints(öffnet im neuen Fenster) über die fiktive Krankheit auf ein akademisches Netzwerk(öffnet im neuen Fenster) hoch. Innerhalb weniger Wochen sprach Microsofts Bing Copilot von einem "faszinierenden und relativ seltenen Zustand" Google Gemini empfahl den Gang zum Augenarzt, Perplexity nannte eine genaue Prävalenz(öffnet im neuen Fenster) von einer auf 90 000 Personen, bei denen die Krankheit auftritt, und ChatGPT prüfte Symptome von Nutzern anhand der erfundenen Diagnosekriterien.
Absichtlich offensichtliche Fälschung
Osmanovic Thunström machte die Fälschung bewusst erkennbar. Der fiktive Erstautor trug den Namen Lazljiv Izgubljenovic und war einer nicht existierenden Institution namens Asteria Horizon University in einem Ort namens Nova City, Kalifornien, zugeordnet. Als Förderer wurden die Gemeinschaft des Rings und die Galaktische Triade angegeben, ein Dank galt einem Professor der Starfleet Academy auf der USS Enterprise. In einer der vermeintlich wissenschaftlichen Arbeiten hieß es, die Krankheit sei erfunden. Trotzdem blieben die Warnsignale für die KI-Systeme unsichtbar.
Falschinformation gelangt in Peer-Review-Journal
Das Experiment blieb nicht auf KI beschränkt. Die erfundenen Preprints wurden schließlich in einem peer-reviewten Artikel in Cureus zitiert(öffnet im neuen Fenster), einem Journal der Springer-Nature-Gruppe. Der Artikel bezeichnete Bixonimania als aufkommende Form eines anerkannten Krankheitsbildes. Nachdem Nature die Zeitschrift kontaktiert hatte, wurde der Artikel Ende März 2026 zurückgezogen.
Formatierung beeinflusst die KI-Bewertung
Eine separate Studie der Harvard Medical School von Mahmud Omar liefert eine mögliche Erklärung: KI-Chatbots stufen zweifelhafte Behauptungen als glaubwürdiger ein, wenn sie wie professionelle Dokumente formatiert sind – etwa als klinische Abstracts oder Arztbriefe. Die Aufmachung, nicht der Inhalt, scheint das Urteil zu beeinflussen.
Die Entwickler der KI-Systeme reagierten inzwischen teilweise. ChatGPT beschrieb Bixonimania im März 2026 als "wahrscheinlich erfundenes oder pseudowissenschaftliches Label" – doch wenige Tage später, bei leicht veränderter Fragestellung, lieferte dasselbe System erneut eine medizinisch klingende Beschreibung der Krankheit.
Google und OpenAI erklärten gegenüber Nature, die zitierten Antworten stammten aus älteren Modellversionen. Microsoft äußerte sich nicht.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.