Cyberangriff auf Hugging Face: KI-Angriff auf KI-Plattform mittels KI aufgedeckt
Die KI-Plattform Hugging Face ist mal wieder Ziel eines Cyberangriffs geworden, bei dem möglicherweise Nutzerdaten abgeflossen sind. Wie das betroffene Unternehmen in einer Mitteilung schildert(öffnet im neuen Fenster), wurde der Angriff nicht nur von einem unternehmenseigenen KI-System identifiziert und untersucht, sondern offenbar auch vollständig von einem autonomen KI-Agentensystem ausgeführt.
Betroffen ist den Angaben zufolge ein Teil der Produktionsinfrastruktur von Hugging Face. "Wir haben unbefugte Zugriffe auf eine begrenzte Anzahl interner Datensätze sowie auf mehrere von unseren Diensten verwendete Anmeldedaten festgestellt", heißt es in der Mitteilung des Plattformanbieters.
Ob auch Daten von Partnern und Kunden von Hugging Face betroffen sind, ist noch unklar. Dies wird nach Angaben des Unternehmens noch untersucht. Betroffene will Hugging Face sofort darüber in Kenntnis setzen, sobald entsprechende Informationen vorliegen.
Sicherheitslücke in der Data-Processing-Pipeline
Laut Hugging Face nutzte der Angreifer ein autonomes Agenten-Framework, um "viele Tausende einzelner Aktionen über einen Schwarm kurzlebiger Sandboxes hinweg auszuführen". Welches LLM dabei zum Einsatz kam, ist bisher allerdings nicht bekannt.
Die Agenten hatten es wohl zuerst auf die Data-Processing-Pipeline von Hugging Face abgesehen und konnten darin durch die Ausnutzung einer Sicherheitslücke Schadcode zur Ausführung bringen.
"Von dort aus erlangte der Angreifer Zugriff auf Knotenebene, sammelte Cloud- und Cluster-Anmeldedaten und bewegte sich über ein Wochenende hinweg lateral in mehrere interne Cluster hinein", erklärte das attackierte Unternehmen.
Nutzer sollten handeln
Die für den Erstzugriff ausgenutzte Sicherheitslücke wurde laut Hugging Face umgehend geschlossen. Zudem hat der Anbieter nach eigenen Angaben die kompromittierten Systeme neu aufgesetzt, Anmeldedaten rotiert, zusätzliche Zugriffskontrollen und Erkennungsmechanismen eingeführt und den Angreifer damit ausgesperrt.
Hinweise auf Manipulationsversuche an KI-Modellen und Datensätzen der Nutzer von Hugging Face gibt es bisher wohl nicht. Der Plattformbetreiber empfiehlt Anwendern jedoch, alle Zugriffstoken zu erneuern und ihre Kontoaktivitäten zu überprüfen. Bei Auffälligkeiten wird empfohlen, diese an Hugging Face zu melden.
Die Untersuchungen zum Vorfall laufen den Angaben zufolge noch. Hugging Face hat laut Mitteilung externe Forensikexperten hinzugezogen und die Strafverfolgungsbehörden informiert.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.