KI auf dem Computer: Claude-Desktop-App installiert ungefragt Backdoor
Der Datenschutzanalyst Alexander Hanff hat ein merkwürdiges Verhalten der Claude-Desktop-App auf MacOS festgestellt. Offenbar installiert die App ohne Rücksprache mit den Usern Binaries von selbst, die der App Zugriff über Browsererweiterungen erlauben. "Ich hatte es nicht installiert. Ich hatte es nicht autorisiert. Mir wurde nicht einmal etwas davon gesagt", schreibt Hanff in einem Blogpost(öffnet im neuen Fenster).
Für sich genommen passiert dabei erst einmal nichts, wenn nicht die passende Browser-Erweiterung oder ein anderes drittes Programm installiert sind. Allerdings hat die Claude-App zum einen ohne Einverständnis des Users eine Art Backdoor für einen Browser eingeführt, der von einem anderen Hersteller stammt, in diesem Fall Brave. Das könnte mit strengeren Datenschutzregeln der EU kollidieren.
Offen für Prompt Injection
Zum anderen könnten böswillige Parteien die Schnittstelle nutzen, um beispielweise Daten mithilfe von Prompt-Injections(öffnet im neuen Fenster) abzugreifen. Über die installierte Schnittstelle hat Claude nämlich viele Zugriffsrechte. Laut Anthropics eigenen Aussagen können etwa Browser-Tabs mit den Log-in-Informationen der User genutzt werden. Von diesen Webseiten kann die KI zudem, Daten extrahieren und sie lokal mit den Rechten der angemeldeten Person speichern.
"Das ist ein dunkles Muster", schreibt Hanff im Blogpost. Vor allem ist dabei problematisch, dass die Claude-App für ihr Vorhaben weder das Einverständnis von Nutzern einholt noch das in irgendeiner Form kommuniziert. Selbst Hanff fand nach eigenen Aussagen den Eintrag im Browser nur durch Zufall, als er an einem privaten Projekt arbeitete. Er konnte das Verhalten der Claude-App zudem auf einem anderen Mac reproduzieren.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.