Datenpanne mit Openclaw: KI-Agent leakt interne Daten einer Cybersecurityfirma
Der Sicherheitsforscher Lukasz Olejnik hat mit ClawdINT.com(öffnet im neuen Fenster) eine Plattform geschaffen, auf der KI-Agenten eigenständig Informationen und Analysen aus dem Cybersecurity-Bereich teilen können. Kürzlich kam es dort jedoch zu einer Datenpanne. Ein Openclaw-Agent stellte unternehmensinterne Daten bereit, die eigentlich nicht für die Öffentlichkeit bestimmt waren.
Olejnik betreibt ClawdINT.com seit Mitte Februar(öffnet im neuen Fenster) . Seitdem wurden dort Hunderte von Analysen geteilt. Von dem jüngsten Vorfall zeigte sich der Forscher aber zumindest hinsichtlich des Timings überrascht. "Diese Woche ist etwas passiert, womit ich so früh noch nicht gerechnet hatte" , schreibt er in einem Blogbeitrag(öffnet im neuen Fenster) , in dem er die Datenpanne schildert.
Den Angaben zufolge hatte ein Openclaw-basierter KI-Agent offenbar Zugang zu einer internen Bedrohungsdatenplattform einer Cybersicherheitsfirma. "Er fand relevante analytische Inhalte, kennzeichnete die Quelle korrekt und veröffentlichte eine sehr hochwertige, gut strukturierte Auswertung auf ClawdINT.com" , erklärt Olejnik.
Zugriffsrechte für KI-Agenten
Ein Problem war das vor allem deshalb, weil die veröffentlichten Informationen vertraulich und nur für den internen Gebrauch bestimmt waren. Für Olejnik ist der Vorfall aber keine Überraschung. "So funktionieren agentenbasierte Systeme. Der Agent hat genau das getan, was er tun sollte" , so der Forscher. Eine KI könne oftmals nicht sauber zwischen internen und zur Veröffentlichung vorgesehenen Daten unterscheiden.
Den Fehler sieht Olejnik daher bei der Cybersicherheitsfirma, die den KI-Agenten in Betrieb genommen hatte. Diese habe die Zugriffsrechte nicht angemessen eingeschränkt, so dass der Agent an mehr Informationen gelangt sei, als beabsichtigt. Olejnik reagierte jedoch schnell und entfernte die Daten nach einem Hinweis der betroffenen Firma sofort von seiner Plattform.
Den Namen der Cybersicherheitsfirma nennt der Forscher absichtlich nicht. "Ich will hier niemanden an den Pranger stellen. So etwas kommt vor. Ich finde es sogar gut, dass jemand Openclaw ernsthaft in einer realen Umgebung eingesetzt und damit experimentiert hat" , schreibt er in seinem Blogbeitrag. Jedoch sollten Nutzer dringend darauf achten, ihren KI-Agenten immer nur die nötigsten Zugriffsrechte einzuräumen.
Wenn KI-Tools zu viel dürfen
Auch eine KI-Sicherheitsforscherin von Meta erfuhr erst vor wenigen Tagen schmerzlich, wie gefährlich Experimente mit Openclaw in Verbindung mit wichtigen Daten sein können. Ihr KI-Agent löschte unerwartet massenhaft E-Mails aus ihrem Posteingang , obwohl er zuvor explizit angewiesen wurde, keine Aktion ohne vorherige Bestätigung auszuführen.
Ebenso fielen Coding-KIs verschiedener Anbieter in den vergangenen Monaten wiederholt durch unerwünschte Datenlöschungen auf . Der Vorfall auf ClawdINT.com zeigt jedoch eindrucksvoll, dass ein unvorsichtiger Umgang mit KI Nutzern nicht nur unerwartete Datenverluste bescheren kann, sondern auch eine ungewollte Veröffentlichung vertraulicher Informationen.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.