Claude Mythos: Unbefugte sollen Zugriff auf Anthropics Super-KI haben
Anthropics neues KI-Modell Claude Mythos, welches eigentlich nur ausgewählten Organisationen zur Verfügung stehen soll, wird offenbar schon eine Weile von Unbefugten genutzt. Einem Bloomberg-Bericht(öffnet im neuen Fenster) zufolge konnte sich eine kleine Gruppe von Discord-Nutzern Zugang zu dem Modell verschaffen und damit experimentieren – und das angeblich schon seit dem Tag der Ankündigung.
Mythos soll laut Anthropic in der Lage sein, auf Nutzeranweisung in jedem gängigen Betriebssystem und jedem gängigen Webbrowser Sicherheitslücken zu identifizieren und auszunutzen. Das Modell wird daher als besonders gefährlich eingestuft. Auch das BSI warnte bereits, Mythos könne in der Cyberlandschaft weitreichende "Umwälzungen" zur Folge haben.
Da Anthropic Mythos in den falschen Händen für sehr gefährlich hält, sollen im Rahmen einer Initiative namens "Project Glasswing" vorerst nur ausgewählte Organisationen wie Amazon, Apple, Broadcom, Cisco, Crowdstrike, die Linux Foundation, Microsoft, Nvidia und Palo Alto Networks darauf zugreifen dürfen. Diese sollen damit die Möglichkeit erhalten, ihre eigenen Produkte auf Schwachstellen zu untersuchen und Patches zu entwickeln.
Keine bösartigen Absichten
Die unbefugten Zugriffe auf Mythos waren laut Bloomberg durch Zugangsdaten eines Mitarbeiters eines Drittanbieters sowie durch häufig von Sicherheitsforschern verwendete Online-Recherchetools möglich. Hinter den Zugriffen stecken wohl Mitglieder eines Discord-Kanals, die es sich zur Aufgabe gemacht haben, Informationen über noch nicht veröffentlichte KI-Modelle zu sammeln.
Dem Bericht zufolge verwenden die Discord-Nutzer Mythos zwar regelmäßig, aber nicht für Cybersicherheitszwecke. Die Gruppe sei lediglich daran interessiert, mit neuen KI-Modellen zu experimentieren und beispielsweise einfache Webseiten erstellen zulassen, erklärte eine beteiligte Person, die anonym bleiben wollte. Damit Chaos anzurichten, sei jedoch nicht das Ziel.
Auch andere KI-Modelle finden gefährliche Lücken
Anthropic erklärte, dass es derzeit keine Hinweise darauf gebe, dass der von Bloomberg gemeldete Zugriff über die Umgebung des Drittanbieters hinausgegangen sei oder Auswirkungen auf die eigenen Systeme habe. Trotzdem wirft der Bericht die Frage auf, ob möglicherweise noch andere Personen Mythos ohne Erlaubnis nutzen – und das vielleicht dann auch mit bösartigen Absichten.
Ob Mythos in den Händen bösartiger Akteure tatsächlich so viel gefährlicher ist als andere KI-Modelle, bleibt aber ebenfalls fraglich. Schließlich spürten Forscher auch mit früheren Modellen schon viele ernstzunehmende Sicherheitslücken auf und nutzten sie aus.
Dass Mythos darin noch etwas besser ist, ist angesichts der stetigen Weiterentwicklung neuer KI-Modelle naheliegend, aber wohl kaum eine überraschende Erkenntnis. Auch OpenAI kündigte kürzlich mit GPT-5.4-Cyber eine spezielle Cybersicherheits-KI an, auf die zunächst nur ein eingeschränkter Nutzerkreis zugreifen darf.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.