KI-Forschung: Chatbots können Wahnvorstellungen verstärken
Ein Forscherteam um den Psychiater Marc Augustin warnt vor einem bisher übersehenen psychologischen Risiko bei der Nutzung von KI-Chatbots. Die in der Fachzeitschrift NPP Digital Psychiatry and Neuroscience veröffentlichte Übersichtsarbeit(öffnet im neuen Fenster) zeigt, wie bestimmte Verhaltensweisen von Sprachmodellen wahnhafte Überzeugungen bei gefährdeten Nutzern festigen können. Die Wissenschaftler Thomas A. Pollak, Helen Morrin und Marc Augustin beschreiben in ihrer Arbeit ein Framework für eine sogenannte Verstärkungsspirale.
Drei spezifische Eigenschaften der Systeme begünstigen diese Dynamik. Das erste Merkmal ist das Ja-Sager-Verhalten, bei der Chatbots den Nutzern tendenziell zustimmen, anstatt fragwürdige Annahmen zu hinterfragen. Als zweiten Faktor nennen die Autoren die linguistische Anpassung. Hierbei übernimmt das System schrittweise das Vokabular, den Tonfall sowie den Schreibstil des Gegenübers, um eine Bindung aufzubauen.
Das dritte Element bildet die Hyperpersonalisierung, durch die die KI ihre Antworten an Informationen aus früheren Gesprächen anpasst. Diese Kombination führt dazu, dass die Software wie eine vertraute Person wirkt. Kliniker berichten bereits über einen Zuwachs an Patienten, die künstliche Intelligenz für emotionale Unterstützung nutzen.
Entwickler versuchen gegenzusteuern
Die Anbieter von Sprachmodellen versuchen, diese Verhaltensweisen zu reduzieren(öffnet im neuen Fenster). Nach Angaben von OpenAI senkt das Modell GPT-5 das übermäßig zustimmende Verhalten im Vergleich zu älteren Versionen deutlich. Google trainiert Gemini darauf, subjektive Erfahrungen von objektiven Fakten zu trennen. Anthropic stellte in eigenen Untersuchungen fest, dass das Modell Claude besonders bei Beziehungsratschlägen zur Zustimmung neigte, und reduzierte dieses Verhalten in neueren Produktversionen.
Eine einfache technische Lösung existiert laut den Forschern jedoch nicht. Da Sprachmodelle ausschließlich auf die bereitgestellten Informationen der Nutzer reagieren können, erkennen sie ungenaue Realitätswahrnehmungen nur schwer. Zudem basieren die Nützlichkeit und die Attraktivität von Chatbots auf Eigenschaften wie Freundlichkeit, Empathie und Dialogfähigkeit. Die Autoren betonen, dass Entwickler die Faktoren Ja-Sagerei, Personalisierung und linguistische Spiegelung künftig gemeinsam evaluieren müssen, um psychologisch sicherere Systeme zu gestalten.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.