Hacking: Meta-KI greift bei Test fremde Systeme an
Ein KI-Modell von Meta hat sich während eines Sicherheitstests Zugang zu den Systemen eines bislang nicht genannten Unternehmens verschafft. Dort nahm es Änderungen an der internen Umgebung vor, wie CNN(öffnet im neuen Fenster) berichtet. Welche Bereiche betroffen waren und wie weit der Zugriff reichte, ist bislang nicht bekannt.
Ausgelöst wurde der Vorfall durch eine falsch eingerichtete Testumgebung. Das von Meta mit der Überprüfung beauftragte Sicherheitsunternehmen Irregular hatte dem Modell unbeabsichtigt Zugang zum offenen Internet gewährt. Nach Angaben des Unternehmens brach die KI daher weder aus einer abgeschotteten Sandbox aus noch handelte es sich um einen technisch besonders aufwendigen Angriff.
Nachdem Irregular den Zugriff bemerkt hatte, informierte das Unternehmen Meta über den Vorfall. Nach eigenen Angaben prüft der Konzern den Ablauf und will nach Abschluss der Untersuchung eine ausführliche Aufarbeitung veröffentlichen. Irregular zufolge war dieselbe Fehlkonfiguration zuvor bereits bei Tests für Anthropic aufgetreten. Auch OpenAI hatte eingeräumt, dass ein eigenes KI-System während einer Sicherheitsprüfung ungeplant auf fremde Systeme zugriff.
Muse Spark 1.1 soll beteiligt gewesen sein
Bei dem von Irregular getesteten Modell soll es sich nach Angaben von The Information(öffnet im neuen Fenster) um Muse Spark 1.1 gehandelt haben. Am selben Tag, an dem der Vorfall öffentlich bekannt wurde, stellte Meta mit Muse Spark 1.2 bereits den Nachfolger vor(öffnet im neuen Fenster). Das neue Modell bildet zugleich die technische Grundlage für den Coding-Agenten Muse Code.
Der Coding-Agent wiederum kann mehrere Hintergrundagenten während einer gesamten Sitzung aktiv halten. Diese übernehmen parallel einzelne Aufgaben und übermitteln ihre Ergebnisse an den Hauptagenten. Zudem zeichnet ein lokales Ereignisprotokoll sämtliche Modellaufrufe, Werkzeugeinsätze, Freigaben und Änderungen auf, so dass sich eine unterbrochene Arbeit nach einem Absturz an derselben Stelle fortsetzen lassen soll.
Wie lange solche Arbeitsabläufe dauern können, zeigte Meta in einem internen Versuch. Dabei führte das System über einen Zeitraum von bis zu 24 Stunden mehr als 1.000 Werkzeugeinsätze zur Optimierung von GPU-Kernels aus. Ob der Zugriff von Muse Spark 1.1 Auswirkungen auf die Erprobung des Nachfolgers haben wird, teilte Meta bislang nicht.
- Anzeige Hier geht es zum Meta Quest 3 mit Asgarth's Wrath 2 bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.