Mustafa Suleyman: Microsofts KI-Chef sorgt sich wegen "KI-Psychose"
Der CEO von Microsofts KI-Abteilung, Mustafa Suleyman, hat in einer Reihe von Beiträgen auf X(öffnet im neuen Fenster) und einem längeren Beitrag auf seiner Webseite(öffnet im neuen Fenster) seine Sorge über eine Personifizierung von KI-Diensten dargelegt. Suleyman spricht in diesem Zusammenhang von einer "KI-Psychose" .
Suleyman zufolge gibt es immer mehr Berichte von solchen "KI-Psychosen" , in denen Betroffene berichten, dass die von ihnen genutzte KI ein Bewusstsein hat. Es gebe jedoch keine Anzeichen dafür, dass heutige KI-Modelle ein Bewusstsein wie Menschen hätten, allerdings seien viele Tools gut darin, dies vorzugaukeln.
Entsprechend befürchtet Suleyman, dass Nutzer so sehr an ein KI-Bewusstsein glauben, dass sie sich für den Menschenrechten ähnliche Rechte oder gar eine KI-Staatsbürgerschaft aussprechen. Der Manager spricht dabei von "Seemingly Conscious AI" , (SCAI), also von KI-Modellen, die gut darin sind, ein Bewusstsein vorzutäuschen.
AI-Companions vermenschlichen KI-Algorithmen
Seit einiger Zeit gibt es zahlreiche KI-Programme, die als sogenannte Companions eine persönliche Beziehung zu den Nutzern aufbauen. Wie unter anderem die BBC(öffnet im neuen Fenster) berichtet, soll es etliche Fälle geben, in denen KI-Benutzer sich stark von den Tools abhängig machen und mitunter den Kontakt zur Realität verlieren.
Suleyman zufolge sind nicht nur Menschen mit psychologischen Vorerkrankungen dazu prädestiniert, eine KI zu vermenschlichen. Auch sollte seiner Meinung nach das Problem nicht als eine Reihe von Einzelfällen betrachtet werden; stattdessen sollte die Industrie aktiv daran arbeiten, die Illusion eines Bewusstseins zu vermeiden.
KI-Unternehmen sollten Suleyman zufolge nicht suggerieren, dass ihre Tools ein Bewusstsein hätten. Auch müssten die KI-Modelle selbst angewiesen werden, dies nicht zu behaupten oder zu implizieren. Dafür schlägt er die Einführung von Normen vor, die für die KI-Entwicklung gelten sollen. Außerdem regt Suleyman eine tiefgehende Diskussion darüber an, wie KI der Menschheit helfen kann, ohne dabei vermenschlicht zu werden.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.