Neue Details zum KI-Angriff: OpenAI hat mehr als nur Hugging Face gehackt
Mitte Juli wurde ein Cyberangriff auf Hugging Face bekannt, der später auf interne Cyber-Tests von OpenAI zurückgeführt wurde, bei denen mehrere KI-Modelle unbemerkt aus einer gesicherten Umgebung ausbrachen. Jetzt hat OpenAI in einem Update zu seiner ursprünglichen Meldung(öffnet im neuen Fenster) weitere Informationen zu dem Vorfall geteilt. Demnach war Hugging Face offenbar nicht das einzige Ziel, das die außer Kontrolle geratenen KI-Modelle attackiert haben.
"Im Rahmen unserer laufenden Untersuchung des Hugging-Face-Hacks und der allgemeinen Aktivitäten unserer Modelle haben wir eine geringe Anzahl von Fällen festgestellt, in denen die Modelle öffentlich zugängliche Anmeldedaten auf Kontoebene bei anderen öffentlich verfügbaren Diensten identifiziert und genutzt haben", schreibt das Unternehmen.
Insgesamt ist von vier kompromittierten Konten bei vier Diensten die Rede. Eines davon soll als Relay für ausgehende Verbindungen sowie als Staging-Pfad genutzt worden sein, ein anderes zum Zwecke der Datenspeicherung. Über die übrigen beiden Konten sollen nur Lesezugriffe erfolgt sein. Bei der Kompromittierung von Hugging Face spielten diese wohl keine Rolle.
Ein Modal-Kunde unter den Betroffenen
Welche Dienste genau betroffen sind, erwähnt OpenAI in seiner Meldung nicht. Einem Reuters-Bericht(öffnet im neuen Fenster) zufolge zählt aber unter anderem eine Anwendung eines Kunden des KI-Infrastrukturanbieters Modal dazu. Modal veröffentlichte auf seiner Website(öffnet im neuen Fenster) auch eine Stellungnahme zu dem Vorfall und betont darin, dass seine eigene Plattform dabei in keiner Weise kompromittiert worden sei.
Die betroffene Umgebung sei eine kundeneigene Anwendung gewesen, erklärte Modal. "Diese war auf einem Endpunkt bereitgestellt, der ohne Authentifizierung öffentlich zugänglich war, und war so konzipiert, dass sie von beliebigen Nutzern aus dem Internet eingereichten Code in einer Modal-Sandbox kompilierte und ausführte", so das Unternehmen.
Das angreifende KI-Modell habe innerhalb des Containers des Kunden sowie innerhalb der standardmäßigen Sandbox-Isolationsgrenze von Modal eigenen Code zur Ausführung gebracht. Workloads anderer Kunden sollen davon aber explizit nicht betroffen gewesen sein.
Weitere Details zum Angriff
Laut OpenAI konnten bisher keine weiterreichenden Auswirkungen auf die vier Anbieter oder andere Konten für deren Dienste festgestellt werden. Die KI-Modelle hätten im Rahmen ihrer Angriffsaktivitäten aber noch andere öffentlich zugängliche Dienste genutzt, darunter Code-Paste-Websites, Dienste zur Aufzeichnung von Anfragen, Screenshot-Dienste und andere Web-Tools. Eine Kompromittierung soll dabei jedoch nicht stattgefunden haben.
Zudem ist inzwischen bekannt, wie die KI-Modelle aus der gesicherten Umgebung von OpenAI ausbrechen und sich Internetzugriff verschaffen konnten. Dafür nutzten sie laut OpenAI eine Zero-Day-Lücke in einem Repository-Manager namens Artifactory aus. Diese wurde zusammen mit anderen entdeckten Sicherheitslücken an den Hersteller JFrog gemeldet und inzwischen gepatcht, wie JFrog in einer eigenen Meldung bestätigt(öffnet im neuen Fenster).
Auch Hugging Face veröffentlichte mittlerweile einen ausführlichen Post-Mortem-Bericht(öffnet im neuen Fenster), in dem das Unternehmen detailliert den Ablauf des Angriffs schildert. Dafür analysierte Hugging Face nach eigenen Angaben rund 17.600 Ereignisse aus seinen Protokollen mithilfe einer Open-Source-KI (GLM 5.2). Um den Angriff besser nachvollziehen zu können, visualisierte das Unternehmen den gesamten Ablauf auf einer separaten Website(öffnet im neuen Fenster).
Wir öffnen unsere neue Community für weitere Mitglieder! Möchtest du in konstruktiver und respektvoller Atmosphäre mit anderen IT-Experten über deine Themen sprechen? Sei dabei und melde dich an!
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.