Copilot: KI in Windows 11 könnte Malware installieren
Windows testet aktuell diverse neue KI-Features für Windows 11 aus. Die meisten dieser Funktionen werden derzeit allerdings nur Insidern im Dev- oder Beta-Channel präsentiert.
Microsoft ist sich zudem bewusst, dass KI-Tools im aktuelle Zustand Probleme machen können. Eine entsprechende Nachricht wird Usern angezeigt, wenn sie etwa den neuen Agent Workspace einschalten wollen.
Das Unternehmen gibt zu: KI-Agenten mit erweitertem Zugriff auf Apps und Daten durch den Agent Workspace können ein Sicherheitsrisiko darstellen. "Agentenbasierte KI-Anwendungen bergen neuartige Sicherheitsrisiken, wie z. B. Cross-Prompt-Injection (XPIA)" , heißt es in einem Blogpost(öffnet im neuen Fenster) dazu. Dabei handelt es sich um eine neue Art von Angriff, bei dem bösartige Inhalte in GUI-Elementen oder Dokumenten platziert werden.
KI soll transparent sein
Diese Elemente könnten Instruktionen von KI-Tools überschreiben und sie zu ungewolltem Verhalten bewegen. Die KI könnte dann laut Microsoft etwa Daten extrahieren und an externe Parteien senden oder sogar selbstständig Malware installieren.
Aus diesem Grund sollen alle Aktionen von KI-Agenten in Windows offen einsehbar sein. Zudem sollen Nutzer die Aktionen von KI-Agenten vorher prüfen.
Das widerspricht ein wenig der eigentlichen Vision von KI-Agenten in Windows, die eigenständig eine große Hilfe für User sein sollen. Wenn diese allerdings stets Sicherheitsrisiken fürchten müssen und jede Aktion der KI gegenchecken, benötigen sie möglicherweise eher mehr Zeit, als sie durch KI einsparen.
Wie sich das entwickelt, wird Windows 11 in Zukunft zeigen. KI wird ein großer Teil des Betriebssystems – so zumindest die Idee von Microsoft . Es ist unwahrscheinlich, dass der Konzern noch einmal einen Schritt zurückgeht.