Erhebliches Sicherheitsrisiko: Analysten raten dringend von KI-Browsern ab
Das Marktforschungs- und Analyseunternehmen Gartner hat eine Warnung vor KI-Browsern wie ChatGPT Atlas und Perplexity Comet herausgegeben. In einem nur für Gartner-Kunden vollständig einsehbaren Bericht(öffnet im neuen Fenster) heißt es, KI-Browser veränderten die Interaktionen der Nutzer mit Webseiten potenziell weitreichend. Dies gehe auch mit erheblichen Risiken in Bezug auf Cybersicherheit einher.
Eine klare Handlungsempfehlung an Cybersicherheitsverantwortliche nennt Gartner schon in der knappen Zusammenfassung des Berichts: "Cisos sollten in nächster Zeit alle KI-Browser blockieren, um das Risiko zu minimieren" , heißt es dort. Weitere Einzelheiten aus dem Dokument sind bei The Register(öffnet im neuen Fenster) zu finden und geben Aufschluss darüber, wie Gartner zu dieser Einschätzung gelangte.
Mit besagten KI-Browsern sind demnach etwa jene Webbrowser gemeint, die über eine KI-Seitenleiste zur Interaktion mit Webseiten verfügen – beispielsweise, um Inhalte zu durchsuchen, zu übersetzen oder zusammenzufassen. Ebenso bezieht sich Gartner auf ein agentenbasiertes Browsing, bei dem eine KI eigenständig durch das Web navigiert, um vom Nutzer vorgegebene Aufgaben zu erledigen.
Datenklau, Prompt Injections und mehr
Gartner warnt davor, dass beim Einsatz solcher KI-Browser vertrauliche Benutzerdaten aus Webportalen an das häufig cloudbasierte Backend der jeweiligen KI übermittelt werden könnten, was das Risiko für Datenlecks erhöhe. Dies gelte insbesondere dann, wenn den Sicherheits- und Datenschutzeinstellungen zu wenig Beachtung geschenkt werde und keine zentrale Kontrolle erfolge.
Darüber hinaus warnen die Analysten vor möglichen Prompt-Injection-Angriffen, bei der Angreifer der jeweiligen KI bösartige Anweisungen unterschieben, um etwa Nutzerdaten abzugreifen, Malware einzuschleusen oder potenziell gefährliche Falschinformationen zu verbreiten. Erst kürzlich hatten Sicherheitsforscher von Cato vor einer neuen Angriffstechnik gewarnt , die entsprechende Attacken über einfache Links auf Webseiten ermöglicht.
Ebenfalls ein hohes Risiko sehen die Gartner-Analysten bei der hohen Fehleranfälligkeit von KI. Hier besteht den Angaben zufolge die Gefahr, dass den Unternehmen durch die Automatisierung einfacher Aufgaben per KI-Browser finanzielle Schäden entstehen, indem etwa eine KI in einem Einkaufsportal Käufe für Waren oder Tickets abwickelt, die gar nicht erforderlich sind oder von den tatsächlichen Anforderungen abweichen.
Ganz meiden oder gezielt einschränken
Wie eingangs erwähnt, rät Gartner Unternehmen dringend davon ab, KI-Browser zu verwenden. Dies gilt insbesondere dann, wenn zuvor keine angemessene Risikobewertung durchgeführt wurde. Auch sollten Angestellte idealerweise durch geeignete Blockaden daran gehindert werden, KI-Browser eigenmächtig auf Firmengeräte herunterzuladen oder zu installieren.
Jenen IT-Verantwortlichen, die sich entgegen Gartners Rat für den Einsatz von KI-Browsern entscheiden, empfehlen die Analysten, Anwender zumindest über die geschilderten Probleme aufzuklären. So kann etwa vom jeweiligen Anwender sichergestellt werden, dass während der Verwendung einer im Browser integrierten KI keine Tabs geöffnet sind, die einen Zugriff auf potenziell vertrauliche Daten ermöglichen.
Darüber hinaus wird empfohlen, zuverlässige Sicherheitsbarrieren zu errichten, damit verwendete KI-Tools nicht auf geschäftliche E-Mails zugreifen oder anderweitig vertrauliche Informationen aus der jeweiligen IT-Umgebung einsammeln können.