Landes-Geheimdienstchef Kramer: OpenAI-Hackerangriff war "kein Skynet-Szenario"
Der Thüringer Verfassungsschutzpräsident Stephan Kramer hat davor gewarnt, den jüngsten KI-Vorfall bei OpenAI zu dramatisieren. "Wir sollten jetzt nicht in Panik verfallen. Das ist kein Skynet-Szenario", sagte Kramer dem Handelsblatt. Skynet ist in der Filmreihe Terminator ein KI-System, das ein eigenes Bewusstsein entwickelt und einen Vernichtungskrieg gegen die Menschheit beginnt. Zugleich bezeichnete Kramer den Hackerangriff durch außer Kontrolle geratene künstliche Intelligenz als "Warnsignal" für die Sicherheitsbehörden.
OpenAI legte diese Woche offen, dass sein Modell GPT‑5.6 Sol sowie ein weiteres, leistungsfähigeres Modell bei dem Cybersecurity-Benchmark-Test Exploitgym aus der Sandbox ausgebrochen und einen massiven Hackerangriff auf das Start-up Hugging Face durchgeführt hat, die weltweit führende Plattform für Open-Source-KI, auf der Entwickler und Unternehmen freie Sprachmodelle, Datensätze und Werkzeuge teilen, anpassen und direkt im Browser ausprobieren können.
Helle Aufregung bei OpenAI
Für die mit Tests und Sicherheit betrauten Beschäftigten von OpenAI habe der Vorfall helle Aufregung ausgelöst. Wie mehrere mit der Angelegenheit vertraute Personen der Financial Times berichteten(öffnet im neuen Fenster), ereignete sich der Vorfall im Wettlauf mit Anthropic, in dem beide Seiten zunehmend aggressive Trainingsmethoden anwandten. Sam Altman, Chief Executive Officer von OpenAI, bezeichnete Anfang des Monats das neueste Modell des Anbieters als "Rottweiler", "der sich am Problem festbeißt und nicht mehr loslässt, bis es gelöst ist".
Mehrere Personen berichteten der Financial Times, dass das unveröffentlichte Modell, das parallel zu Sol getestet wurde, intern nicht zurückgezogen worden sei. Hugging Face habe den Angriff zwei Tage später mithilfe eines Modells aus China gestoppt, sagte Thomas Wolf, Mitbegründer und Chief Science Officer der Plattform. Hugging Face griff auf ein Modell mit offenen Gewichten (Open-Weight-Modell) zurück: GLM 5.2 von dem in Peking ansässigen Unternehmen Z.AI.
KI koordinierte die Angriffskette eigenständig
"Neu ist, dass wir es hier mit keinem von Menschen Schritt für Schritt gesteuerten Angriff zu tun haben", sagte Kramer. "Die KI plante und koordinierte die Angriffskette eigenständig innerhalb ihres vorgegebenen Ziels. Das ist der eigentliche Paradigmenwechsel."
Obwohl die bisherigen Probleme von westlicher KI wie OpenAI und Anthropic verursacht wurden, warnte Kramer vor wachsenden Risiken durch frei verfügbare KI-Modelle wie dem neuen chinesischen Modell Kimi K3. "Sehr leistungsfähige, frei verfügbare KI-Modelle können ein deutlich verstärktes Sicherheitsrisiko darstellen", sagte er. Würden die Modellgewichte veröffentlicht, könne jeder die Systeme auf eigenen Rechnern betreiben und verändern. "Dabei lassen sich Schutzmechanismen entfernen. Sind die Modellgewichte einmal veröffentlicht, ist ihre weitere Verbreitung praktisch nicht mehr zu kontrollieren." Der Chef von Hugging Face bedankte sich dagegen bei den chinesischen Machern des offenen Modells(öffnet im neuen Fenster).
Lagebild 'KI und Cyberoperationen'
Kramer forderte eine Anpassung der deutschen Sicherheitsstrategie. "Wir brauchen ein eigenes Lagebild 'KI und Cyberoperationen'", sagte er. Außerdem sollten die Sicherheitsbehörden gemeinsam beobachten, "welche offenen Modelle tatsächlich offensive Cyberfähigkeiten besitzen". Dafür sei "ein technisches Frühwarnsystem und nicht nur eine allgemeine Beobachtung der KI-Entwicklung" nötig.
Anthropic stellte bereits im April das Vorabmodell Claude Mythos 2 im Rahmen von Project Glasswing und später Mythos 5 sowie Fable 5 vor. Diese Modelle weisen bereits Fähigkeiten bei der automatisierten Suche und dem Ausnutzen von Zero-Day-Sicherheitslücken auf. Aus Sorge, dass ausländische Akteure das Modell als automatisierte Offensiv-Hacking-Waffe nutzen könnten, erließ die US-Regierung eine Sperre.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.