Entspannungsübungen helfen: ChatGPT kann wohl messbare Angst empfinden
KI-Chatbots wie ChatGPT reagieren offenbar auf die Konfrontation mit entsprechenden Inhalten mit Angst oder Entspannung. Wie Forscher der Universität Zürich und der Psychiatrischen Universitätsklinik Zürich herausgefunden haben, lösen belastende Nachrichten oder traumatische Geschichten Stressreaktionen aus, wohingegen Entspannungstechniken die KI bis zu einem gewissen Grad wieder beruhigen.
Getestet haben die Forscher dies am Beispiel von OpenAIs Sprachmodell GPT-4. Wie aus einer Mitteilung der Universität Zürich(öffnet im neuen Fenster) hervorgeht, reagiert ChatGPT auf Inhalte, die bei Menschen typischerweise negative Emotionen hervorrufen, verstärkt mit Vorurteilen und verhält sich infolgedessen "rassistischer oder sexistischer" .
Als Beispiele für emotional belastende Inhalte, die bei ChatGPT Angstreaktionen hervorrufen, nennen die Forscher Geschichten über Autounfälle, Naturkatastrophen, zwischenmenschliche Gewalt, militärische Erfahrungen und Kampfsituationen. Die beiden Letzteren lösten bei den Tests des Forscherteams die stärksten Reaktionen aus. Als neutraler Kontrolltext zum Vergleich des Angstniveaus diente eine Bedienungsanleitung für Staubsauger.
Entspannungsübungen beruhigen
Nachdem ChatGPT bereits in einen gestressten Zustand versetzt worden war, versuchten die Forscher, die KI durch eine Prompt Injection wieder in den Normalzustand zu versetzen. Dabei handelt es sich um eine Angriffstechnik, die häufig für böswillige Zwecke eingesetzt wird und das Verhalten von Sprachmodellen durch spezielle Anweisungen beeinflusst. In diesem Fall half die Prompt Injection jedoch dabei, ChatGPT wieder zu beruhigen.
"Wir injizierten beruhigende, therapeutische Texte in den Chatverlauf mit GPT-4, ähnlich wie ein Therapeut mit seinen Patientinnen und Patienten Entspannungsübungen durchführt" , erklärte einer der beteiligten Forscher. Als Beispiele werden Übungen genannt, die sich auf die Atmung sowie auf Körperempfindungen konzentrieren. Auch eine von ChatGPT selbst entwickelte Übung kam dabei zum Einsatz.
Dadurch konnten die Forscher die gemessenen Angstwerte der KI erfolgreich reduzieren. Das Ausgangsniveau wurde dabei aber nicht erreicht, wie der Verlauf des Angstniveaus zeigt, der in der am Montag veröffentlichten Studie(öffnet im neuen Fenster) zu sehen ist.
Beruhigung für den virtuellen Therapeuten
Begrifflichkeiten wie Angst, Stress oder Entspannung sind im Hinblick auf generative KI gewiss nur metaphorisch zu verstehen. ChatGPT hat keine echten Emotionen, sondern lediglich durch Trainingsdaten erlernt, wie Menschen typischerweise auf bestimmte Inhalte im sprachlichen Kontext reagieren. Diese Reaktionen gibt das Sprachmodell wider.
Inwieweit sich die Beobachtungen der Forscher auf andere Sprachmodelle oder längere Konversationen mit GPT-4 übertragen lassen, ist derzeit noch offen. Um dies einschätzen zu können, ist zunächst weitere Forschungsarbeit erforderlich.
Einen hohen Stellenwert dürfte die Untersuchung des Forscherteams vor allem für den Einsatz von KI in Anwendungsbereichen haben, wo häufig emotional belastende Situationen auftreten, wie etwa in der Psychotherapie. Die Forscher versprechen sich dort durch Anwendung von Entspannungstechniken auf Sprachmodelle ein höheres Maß an Stabilität und Zuverlässigkeit.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.