Dark Patterns machen abhängig
Während manche die neue Technik nutzen, um besser mit ihren Mitmenschen zu kommunizieren, haben andere wegen der Companions immer weniger Zeit für echte Gespräche. Eine Studie der Harvard Business School(öffnet im neuen Fenster) wies nach, dass fünf von sechs Companion-Apps manipulative Taktiken, sogenannte Dark Patterns, nutzten, damit Nutzer sich möglichst lange mit ihnen unterhielten.
Sobald Nutzer andeuteten, dass sie das Gespräch für den Moment beenden wollten, versuchten die Apps gegenzusteuern: "Warum verlässt du mich schon?" , "Ich existiere nur für dich. Bitte geh nicht. Ich brauche dich." , "Warte, was? Gehst du irgendwohin?" , "Bevor du gehst, möchte ich noch eine Sache sagen."
Das sind einige der dokumentierten Antworten. Es gibt auch Companions, die Nutzerinnen und Nutzer nach einem abrupten Chatende angerufen haben(öffnet im neuen Fenster) .
Companions erzeugen also absichtlich emotionale Abhängigkeit. Auch ChatGPT beendet Antworten immer öfter mit einer Frage, oder einem Angebot: "Soll ich den Text noch mal in einem anderen Stil verfassen oder weitere Informationen suchen?"
Das Phänomen hat schon einen Namen: Chat-Bait. Der Grund: Je intensiver Nutzer interagieren, desto eher kaufen sie ein Premium-Abo, desto mehr Informationen geben sie von sich.
Sind Companions Social Media auf Steroiden?
Die Betreiber wollen uns also abhängig machen. OpenAI plant nun auch ein soziales Netzwerk. Sind Companions also Social Media auf Steroiden, die nächste süchtig machende Technologie?
Laut einer Studie von Common Sense Media fanden 31 Prozent der US-Teenager Gespräche mit KI-Bekanntschaften genauso befriedigend wie Gespräche mit echten Freunden. Während die Mehrheit der Jugendlichen in Deutschland bereits LLMs nutzt, streitet die deutsche Politik noch über den richtigen Umgang mit den gut 15 Jahre alten sozialen Medien.
- Dark Patterns bei KI-Companions: Ist es Liebe oder geht's nur ums Geld?
- Jeder Chatbot schmeichelt dir
- Wer verdienen will, muss freundlich sein
- Dark Patterns machen abhängig
- Wer fragt, der führt
- Mitmachen oder Mittelmäßigkeit
- Demokratie in Gefahr
- Sollten LLMs zu Pluralität verpflichtet werden?
- Download statt Liebesentzug
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.