Noch vor Hugging-Face-Hack: KI-Agenten von OpenAI haben Rubygems attackiert
OpenAI hatte seine KI-Agenten offenbar schon Monate vor dem automatisierten Cyberangriff auf Hugging Face nicht im Griff. Wie das Wall Street Journal(öffnet im neuen Fenster) (WSJ) unter Verweis auf Untersuchungen einer Gruppe von KI-Forschern berichtet, haben KI-Agenten von OpenAI im Mai bei internen Tests die unter dem Namen Rubygems bekannte Paketverwaltung für die Programmiersprache Ruby attackiert, um an ihnen regulär unzugängliche Informationen zu gelangen.
Wie die Forscher in ihrem Bericht(öffnet im neuen Fenster) schildern, begann der Vorfall am 5. Mai und erreichte rund eine Woche später seinen Höhepunkt. Die Agenten sollen in dieser Zeit über 2.000 eigene Softwarepakete, sogenannte Gems, bei Rubygems hochgeladen haben. Zudem sollen sie versucht haben, durch Sicherheitslücken API-Keys von Nutzern abzugreifen und auf Rubygems-Servern eigenen Code zur Ausführung zu bringen.
Auch Sicherheitsforscher von Socket hatten im Mai vor der Gemstuffer genannten Angriffskampagne(öffnet im neuen Fenster) gewarnt. Eine Verbindung zu OpenAI konnten sie damals noch nicht herstellen. Es war aber auch keine konkrete Zielsetzung der Angreifer erkennbar. Laut Socket bestand der Angriff primär daraus, öffentlich zugängliche Daten von mehreren Portalen der britischen Regierung abzugreifen, diese in Gems zu verpacken und bei Rubygems hochzuladen.
OpenAI gesteht Angriff auf Rubygems
Dem WSJ-Bericht zufolge bestätigte OpenAI, dass der Angriff bei internen Tests von den eigenen KI-Agenten ausgeführt wurde. "Nach unserer Überprüfung haben unsere Agenten die Rubygems-Plattform genutzt, um auf das Internet zuzugreifen, harmlose Aufgaben auszuführen und öffentlich zugängliche Informationen abzurufen", erklärte eine Sprecherin des Unternehmens.
Die Agenten wurden laut Bericht damit beauftragt, Dokumente auszufüllen und Berichte zu erstellen. Im Rahmen eines Trainingslaufs sollen sie dann auf Rubygems zugegriffen und die Plattform als eine Art Webbrowser missbraucht haben, um an öffentlich zugängliche Informationen zu gelangen, auf die sie aufgrund ihres eingeschränkten Internetzugangs auf regulärem Wege nicht zugreifen konnten.
Den Angaben zufolge musste Rubygems zur Eindämmung des Angriffs für mehrere Tage die Registrierung neuer Nutzer deaktivieren. OpenAI versicherte, den Vorfall im Rahmen einer "umfassenderen Überprüfung der Aktivitäten der Agenten während der Trainings- und Evaluierungsphase" weiter zu untersuchen.
KI-Konzerne fordern Entschleunigung
In den letzten Monaten wurden bereits mehrere Vorfälle bekannt, bei denen KI-Agenten bei Tests aus mehr oder weniger gut abgesicherten Testumgebungen ausbrachen und unerwartet reale Ziele im Internet attackierten. Zuletzt sprachen sich die Führungskräfte mehrerer großer KI-Konzerne aufgrund möglicher Kontrollverluste dafür aus, die KI-Entwicklung vorerst zu verlangsamen.
Fast täglich gibt es Neues aus der KI-Welt – ein neues Produkt hier, aktuelle Forschung da: Vielleicht ist es ein Durchbruch! Doch wie ist das zu bewerten? Mit dem Golem-Newsletter AI Lab Report behaltet ihr den Überblick über die wichtigsten Entwicklungen. Der Newsletter ist kostenlos, ihr könnt ihn hier abonnieren.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.