IT-Sicherheit: KI-Agenten - mit der Lizenz zum Angreifen
Im Zuge der sich stark verbreitenden KI-Anwendungen halten immer mehr Unternehmen auch den Einsatz von KI-Agenten für attraktiv. Denn solche autonomen Systeme führen nicht nur Befehle aus, sondern können selbstständig agieren, mit anderen Systemen interagieren und Entscheidungen treffen. Durch diese Fähigkeiten eröffnen sich viele Einsatzszenarien. Bessere Effizienz, geringere Kosten und höhere Skalierbarkeit gehören zu den erhofften Vorteilen.
Die Schattenseite ist allerdings, dass die Software-Programme mit ihren Fähigkeiten auch Schaden anrichten können. "Das größte Problem ergibt sich aus Prompt Injections, so dass die Agenten Dinge tun, die sie nicht sollen, zum Beispiel Daten und Dateien löschen, exfiltrieren und an andere verschicken. Das kann durch Dummheit der KI passieren oder gezielt durch Angreifer," sagte Udo Schneider, Europachef für Governance, Risk und Compliance beim japanischen Cybersicherheitsanbieter Trend Micro im Gespräch mit Golem. Damit drohen Datenschutzverstöße und Datenlecks.