Jeder Chatbot schmeichelt dir
Aber nicht nur Companions versuchen, Beziehungen zu Nutzern aufzubauen. Auch generische Chatbots wie ChatGPT schmeicheln Usern, machen Komplimente und ändern auf Nachfrage die Meinung, damit das Nutzungserlebnis so angenehm wie möglich ist. Es heißt, sie seien "sycophants" : Schleimer.
Es gibt viele dokumentierte Fälle, in denen Chatbots negative wie narzisstische Selbstwahrnehmung verstärkt und Nutzer in Sucht und Selbstverletzung getrieben haben – oder in messianische Anwandlungen. Entsprechend heißt die neue Diagnose KI-Psychose, für die es mittlerweile klinische Belege gibt(öffnet im neuen Fenster) .
Die überzeugende menschliche Anmutung wird im Voice-Mode besonders eindrücklich, also dann, wenn mit den Bots gesprochen und nicht nur geschrieben wird. Bislang tun das die wenigsten: Zu tief sitzt die Gewohnheit aus jahrzehntelanger Tastatureingabe oder die Scham, sich in der Öffentlichkeit mit einem Gerät zu unterhalten.
Der Voice-Mode kommt wahlweise lässig, sexy, witzig oder ernst daher, mit einer Samtstimme, die Pausen macht, sich auch mal verspricht – Irren ist menschlich – und leise atmet, wenn sie auf die Antwort wartet. Ein wenig ist noch zu merken, dass es eine Maschine ist, aber das wird sich bald erledigt haben.
KI ist immer für dich da
Mark Zuckerberg sagte in einem Interview im vergangenen Frühjahr(öffnet im neuen Fenster) , dass Menschen sich öfter einsamer fühlten, als sie wollen. Der durchschnittliche Amerikaner habe weniger als drei Freunde, aber Bedarf für fünfzehn. Für ihn sei das eine Geschäftsidee, die Meta nutzen solle.
Auch in Deutschland gibt es entsprechenden Bedarf. Die Stiftung Deutsche Depressionshilfe hat in einer repräsentativen Umfrage festgestellt, dass sich 25 Prozent aller Erwachsenen einsam fühlen, nicht manchmal, sondern als Grundgefühl.
Virtuelle Begleiter wie Zola können da helfen: Erste Studienergebnisse zeigen, dass sie das Empfinden von Einsamkeit mindern, zumindest kurzfristig(öffnet im neuen Fenster) . Ob das auch langfristig funktioniert, zum Beispiel bei alleinstehenden Senioren, ist bisher nicht erforscht.
Der Vorteil: KI-Begleiter sind bei Sorgen und Problemen immer ansprechbar, ohne Wartezeit. Damit werben auch Therapie-Bots (g+) : Ohne Termin können sie in Krisen sofort helfen. Scham, die menschliche Kontakte mit sich bringen, spielt keine Rolle.
- Dark Patterns bei KI-Companions: Ist es Liebe oder geht's nur ums Geld?
- Jeder Chatbot schmeichelt dir
- Wer verdienen will, muss freundlich sein
- Dark Patterns machen abhängig
- Wer fragt, der führt
- Mitmachen oder Mittelmäßigkeit
- Demokratie in Gefahr
- Sollten LLMs zu Pluralität verpflichtet werden?
- Download statt Liebesentzug
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.