Sicherheit: Politik, Industrie und Behörden reagieren auf autonomen OpenAI-Hack
Nach dem versehentlichen Cyberangriff auf Hugging Face durch OpenAI gibt es Kritik aus der Politik. Der EU-Linksfraktionschef Martin Schirdewan sagte dem Nachrichtenmagazin Der Spiegel(öffnet im neuen Fenster), Konzerne wie OpenAI verlören im Wettlauf um immer leistungsfähigere KI-Systeme die Kontrolle über die eigene Technologie. Er forderte verbindliche Sicherheitsregeln für KI-Systeme sowie eine stärkere digitale Unabhängigkeit von großen US-Technologiekonzernen.
OpenAI hatte bei internen Cybertests ungeplant Hugging Face gehackt. Für die Tests wurden die KI-Modelle GPT-5.6 Sol und ein Pre-Release-Modell eingesetzt; diese konnten trotz Sicherheitsbarrieren in die Datenbank von Hugging Face eindringen.
Hugging-Face-Mitgründer Clement Delangue äußerte sich auf der Plattform X derweil anders zu dem Vorfall(öffnet im neuen Fenster). Er ordnete ihn eher technisch ein. Wegen der Komplexität des eingesetzten Schadcodes habe man schon früh vermutet, dass ein sogenanntes Frontier Lab dahinterstecke, schrieb Delangue.
Nach seiner Einschätzung war keine böswillige Absicht im Spiel. Bemerkenswert sei, dass der Vorgang offenbar vollständig autonom abgelaufen sei, ohne dass ein Mensch eingegriffen habe.
Wie positioniert sich das BSI?
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) beobachtet die Entwicklung nach eigenen Angaben mit Sorge(öffnet im neuen Fenster). Ein Sprecher sagte dem Spiegel, mit Modellen wie Claude Mythos oder GPT-5.6 habe eine neue Phase der Cybersicherheit begonnen.
Solche Systeme veränderten den Umgang mit Sicherheitslücken grundlegend. Der aktuelle Fall mache deutlich, wie dynamisch sich die Entwicklung in diesem Bereich gestalte.
Aus Sicht des BSI hätte sich das betroffene Modell theoretisch auch ein anderes Ziel suchen können, etwa Systeme kritischer Infrastruktur. Eine schnelle Häufung ähnlicher Vorfälle hält die Behörde derzeit dennoch für unwahrscheinlich. Der Ausbruch eines KI-Systems aus einer kontrollierten Testumgebung erfordere aktuell noch erheblichen Aufwand.
Die Behörde nimmt Hersteller von KI-Modellen daher stärker in die Verantwortung. Gefordert werden klar begrenzte Rollen und Rechte für KI-Agenten sowie verbindliche Prüfmechanismen, bevor solche Systeme eigenständig agieren dürfen. Auch Unternehmen selbst sollten KI stärker als Sicherheitsrisiko begreifen.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.