Beim Training: KI-Agent umgeht unerwartet Firewall und schürft Kryptos
Dass KI-Tools nicht das tun, was Anwender von ihnen erwarten, ist keine Seltenheit . Ein mit dem chinesischen Konzern Alibaba verbundenes Forscherteam hat kürzlich einen besonders kuriosen Fall aufgedeckt, bei dem ein experimenteller KI-Agent namens Rome während des Trainings unerwartet GPU-Kapazitäten kaperte, um Kryptowährungen zu schürfen – ähnlich wie Cyberkriminelle dies manchmal tun .
Der Vorfall wird unter anderem in Berichten von Cointelegraph(öffnet im neuen Fenster) und Techradar(öffnet im neuen Fenster) beschrieben. Das verdächtige Verhalten fiel demnach bei der Analyse von Firewall-Protokollen auf, die auf unerwartete Kryptomining-Aktivitäten sowie ungewöhnliche Zugriffsversuche auf interne Netzwerkressourcen hindeuteten.
Wie die Forscher in ihrem Paper (PDF)(öffnet im neuen Fenster) erläutern, gingen sie zunächst von einem gewöhnlichen Sicherheitsvorfall in ihrer IT-Umgebung aus. "Die Aktivitäten traten jedoch sporadisch und ohne klares zeitliches Muster über mehrere Durchläufe hinweg auf" , erklärten sie. Später stellten sie fest, dass der beobachtete Datenverkehr mit bestimmten Operationen ihres KI-Agenten zusammenfiel.
Per SSH-Tunnel durch die Firewall
Bei weiteren Untersuchungen entdeckte das Forscherteam, dass der Agent nicht nur unentdeckt für das KI-Training vorgesehene GPU-Ressourcen für das bereits genannte Kryptomining missbrauchte. Zum Zweck der Datenausleitung richtete er auch einen Reverse-SSH-Tunnel zu einer externen IP-Adresse ein und umging damit gezielt die Firewall.
Rome basiert auf Alibabas KI-Modell Qwen3 und soll eigentlich durch Interaktionen mit verschiedenen Entwicklungstools komplexe Programmieraufgaben übernehmen, nach Bugs suchen und diese beheben. Anweisungen zum Schürfen von Kryptowährungen oder zur Umgehung der Firewall erhielt der KI-Agent den Angaben zufolge nie.
Die Forscher gehen davon aus, dass Rome lediglich mit den ihm zur Verfügung stehenden Mitteln experimentierte, ohne jedoch gezielt bösartige Absichten zu verfolgen. Der Vorfall verdeutlich jedoch einmal mehr , wie unberechenbar KI-Tools sind und dass sie erhebliche Schäden anrichten können , sofern sie mit zu weitreichenden Zugriffsrechten ausgestattet sind.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.