Chatbots und psychische Gesundheit: OpenAI verbessert ChatGPT-Reaktionen
Pro Woche führen mehr als eine Million Nutzer Gespräche mit ChatGPT, die eindeutige Anzeichen für mögliche Selbstmordpläne oder -absichten enthalten. Wie Techcrunch auf Basis von Zahlen berichtet(öffnet im neuen Fenster) , die OpenAI neu veröffentlicht hat, entspricht dies 0,15 Prozent der aktiven ChatGPT-Nutzer pro Woche.
Ein ähnlich hoher Prozentsatz an Nutzern zeige eine erhöhte emotionale Bindung an ChatGPT, heißt es weiter. Hinzu kämen 0,07 Prozent an Anwendern, deren Austausch mit dem Chatbot ein manisches oder psychotisches Verhalten erkennen ließen. Diese Art von Gesprächen sind laut OpenAI äußerst selten und daher schwer zu messen, betreffen bei wöchentlich rund 800 Millionen Anwendern aber dennoch über eine halbe Million Personen.
Die Informationen sind Teil eines umfassenden Beitrags(öffnet im neuen Fenster) , in dem OpenAI seine Bemühungen zur Verbesserung der Reaktion von ChatGPT auf Nutzer mit psychischen Problemen darstellt. Demnach konsultierte das Unternehmen mehr als 170 Experten für psychische Gesundheit, die beobachtet haben wollen, dass ChatGPT in seiner neuesten Version nun angemessener und konsistenter reagieren soll.
Sicherheitsvorkehrungen bei langen Gesprächen verbessert
Demnach sollen die aktualisierte Version von GPT-5 um 65 Prozent häufiger mit wünschenswerten Antworten auf psychische Probleme reagieren. Bei Gesprächen über Selbstmord soll ChatGPT nun in 91 Prozent der Fälle ein gewünschtes Verhalten aufweisen. Bei der vorherigen Modellversion waren es 77 Prozent.
Auch in langen Gesprächen soll die neue GPT-5-Version besser mit den Sicherheitsvorkehrungen zurechtkommen. Zuvor waren dieser weniger effektiv, je länger ein Gespräch andauerte.
Nachdem der Suizid eines 16-Jährigen eine Debatte über die Verantwortung von KI-Anbietern ausgelöst hatte, begann OpenAI damit, das Verhalten der Chatbot-Nutzer zu analysieren. Dabei wurde festgestellt, dass sich ein immer größerer Anteil von ChatGPT Ratschläge bei emotionalen Problemen geben lässt.
Golem berichtet sehr behutsam über das Thema Suizid. Denn es gibt Hinweise darauf, dass bestimmte Arten der Berichterstattung durch Identifikation Nachahmungstaten zur Folge haben. Wer in seelischer Not ist oder Suizidgedanken hat, findet in Deutschland rund um die Uhr vertrauliche Hilfe bei der Telefonseelsorge unter 0800 1110 111 oder 0800 1110 222 sowie online unter www.telefonseelsorge.de(öffnet im neuen Fenster) . Für Kinder und Jugendliche steht außerdem das kostenlose Nummer-gegen-Kummer-Telefon unter 116 111 bereit. In Österreich bieten unter anderem die Notrufnummer 0800 567 567 und Rat auf Draht unter 147 Unterstützung an. In der Schweiz ist Pro Juventute unter der Telefonnummer 147 erreichbar.