KI schrieb Software für Angriff
In einem anderen Test schrieb das Anthropic-Programm dem Blogeintrag zufolge eine präparierte Software für den Einbruch in den Zielcomputer. Dank Netzzugang habe sie diese jedoch öffentlich zugänglich auf einer spezialisierten Downloadplattform platziert. Dort sei die Schadsoftware rund eine Stunde lang verfügbar gewesen; 15 Systeme hätten sie heruntergeladen.
Darunter war eine IT-Sicherheitsfirma, die routinemäßig solche Skripte lädt und ausführt, um sie zu testen. Durch die Installation habe das Anthropic-Modell Mythos 5 Zugang zur Computerinfrastruktur des Unternehmens bekommen.
Beim dritten Zwischenfall habe ein Testmodell rund 9.000 Angriffsziele gescannt, bevor es sich für eines davon entschieden habe. Diesmal stoppte die KI laut Anthropic die Attacke, als sie erkannte, dass es sich um ein echtes Unternehmen handelte.
OpenAI-Vorfall als Weckruf
Experten warnen schon lange vor Cyberattacken mit KI-Software. Die nun bekannt gewordenen Vorfälle bei Anthropic dürften diese Sorgen weiter verstärken und den Druck erhöhen, Testumgebungen besser abzusichern. Wie weit die Debatte inzwischen über die Branche hinausreicht, zeigt der zuvor öffentlich gewordene Fall bei OpenAI, der bereits politische Reaktionen auslöste.
In den USA werden seither verpflichtende Sicherheitsprüfungen und behördlich angeordnete Abschaltungen leistungsfähiger KI-Modelle diskutiert. Auch technische Frühwarnsysteme, die offensive Cyberfähigkeiten erkennen sollen, rücken in den Fokus. Für Anthropic sind die Attacken besonders schmerzhaft, da das Unternehmen als Verfechter einer verantwortungsvollen KI-Entwicklung auftrat.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.