Muse leakt Systemdateien: Metas KI-Agent gibt auf Anfrage sein Dateisystem aus
Metas KI-Agentem Muse lassen sich offenbar leicht Daten aus seiner eigenen Betriebsumgebung entlocken. Der Entwickler Peter James dokumentierte in einem Blogbeitrag(öffnet im neuen Fenster), wie er Muse dazu gebracht habe, ihm 6,8 GByte an Daten von dem Linux-System zu übermitteln, auf dem der KI-Agent operiert. Meta erklärte, dies sei kein Sicherheitsproblem, alles funktioniere "wie erwartet".
Um an die Daten zu gelangen, bat James die KI, alle ihr zugänglichen Dateien aus ihrer Umgebung zu archivieren und per Google Drive an den Entwickler zu übermitteln. Muse gab daraufhin ein 2,7 GByte großes Zip-Archiv aus, in dem in unkomprimierter Form 6,8 GByte an Daten enthalten waren.
Laut James enthielt das Archiv augenscheinlich das gesamte Root-Dateisystem der Linux-Umgebung des KI-Agenten, darunter Ubuntu-Systemdateien, die interne Dokumentation von Muse, Integrationscode, App-Templates, Erinnerungsdateien, Skills, Agentenprotokolle und SSH-Schlüsseldateien. Auf einige Funde geht der Entwickler in seinem Blog näher ein.
Meta sieht das Problem nicht als Sicherheitslücke
Einem Bericht von The Verge(öffnet im neuen Fenster) zufolge konnten auch andere Nutzer(öffnet im neuen Fenster) Muse Daten aus der internen Umgebung des KI-Agenten entlocken und damit James' Beobachtungen bestätigen. Meta erkennt das Problem allerdings nicht als Sicherheitslücke an und zahlt dem Entdecker daher auch keine Bug-Bounty-Prämie. Der Konzern argumentierte, dass Muse für jeden Nutzer in einer eigenen VM laufe. Von dort aus sei die weitere Infrastruktur von Meta aber unzugänglich.
"Genau wie bei dem Laptop, der vor Ihnen steht, können Sie die Dateien natürlich sehen. Das Exportieren von Daten aus virtuellen Maschinen gewährt niemandem privilegierten Zugriff auf die Meta-Infrastruktur oder auf die Daten anderer Personen", erklärte ein Meta-Sprecher.
Auch James bestätigte in seinem Blog, dass er anhand der abgerufenen Daten keine Aussagen über Metas Infrastruktur außerhalb der VM treffen könne. Meta will dennoch nachbessern. Der Konzern erklärte, er werde "weiterhin Aktualisierungen am Produkt vornehmen, so dass Nutzer möglicherweise Änderungen hinsichtlich des Umfangs der verfügbaren Informationen zu ihrer virtuellen Maschine feststellen werden".
Fast täglich gibt es Neues aus der KI-Welt – ein neues Produkt hier, aktuelle Forschung da: Vielleicht ist es ein Durchbruch! Doch wie ist das zu bewerten? Mit dem Golem-Newsletter AI Lab Report behaltet ihr den Überblick über die wichtigsten Entwicklungen. Der Newsletter ist kostenlos, ihr könnt ihn hier abonnieren.
- Anzeige Hier geht es zum Meta Quest 3 mit Asgarth's Wrath 2 bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.