BSI ist besorgt: Anthropics neues KI-Modell könnte Cyberlandschaft "umwälzen"
Das in dieser Woche von Anthropic neu vorgestellte KI-Modell Mythos versetzt offenbar die Cybersicherheitsbranche in Aufruhr. Wie der Spiegel berichtete(öffnet im neuen Fenster), könnte das Modell nach Einschätzung des Bundesamtes für Sicherheit in der Informationstechnik (BSI) erhebliche Auswirkungen auf die Cyberbedrohungslage haben. Die Behörde nehme die Ankündigung von Anthropic sehr ernst, erklärte BSI-Chefin Claudia Plattner.
Bei Mythos handelt es sich um ein neues KI-Modell, das im Vergleich zu früheren Modellen noch effektiver darin sein soll, gefährliche Sicherheitslücken aufzuspüren. Anthropic erklärte bei der Ankündigung(öffnet im neuen Fenster), mit Mythos innerhalb weniger Wochen Tausende von Zero-Day-Lücken gefunden zu haben – viele davon kritisch und teils bis zu 20 Jahre alt.
In den falschen Händen könnte ein so kompetentes KI-Modell zu einer ernsten Bedrohung werden. Aus diesem Grund steht Mythos vorerst nicht der breiten Masse zur Verfügung, sondern soll zunächst von 40 ausgewählten Organisationen getestet werden – darunter Amazon, Apple, Broadcom, Cisco, Crowdstrike, die Linux Foundation, Microsoft, Nvidia und Palo Alto Networks.
BSI erwartet Paradigmenwechsel
Das BSI erwartet laut Plattner von Mythos nicht weniger als "Umwälzungen im Umgang mit Sicherheitslücken und in der Schwachstellenlandschaft insgesamt". Die Behörde habe das neue KI-Modell zwar selbst noch nicht testen können, jedoch sei sie mit den Entwicklern im Austausch und habe dadurch Einblicke in die Funktionsweise erhalten.
"Konsequent zu Ende gedacht, könnte es mittelfristig keine unbekannten klassischen Software-Schwachstellen mehr geben", hieß es weiter. Es sei mit einer Verschiebung der Angriffsvektoren und im Hinblick auf die Cyberbedrohungslage mit einem Paradigmenwechsel zu rechnen.
Ferner stelle sich die Frage, ob, und wenn ja, wie lange derart wirkmächtige Werkzeuge auf dem freien Markt verfügbar sein würden. "Daraus wiederum ergeben sich Fragen nationaler und europäischer Sicherheit und Souveränität", sagte Plattner.
Viele Open-Source-Projekte sind schon jetzt durch massenhaft eingereichte und mit KI erzeugte Bug-Reports überlastet. Anfangs waren darunter noch viele unbrauchbare Einreichungen, oft auch als "KI-Schrott" bezeichnet. Zuletzt verbesserte sich die Qualität aber deutlich. Dass sich dieser Trend fortsetzt, ist naheliegend. Mythos wird daher sicherlich nicht das letzte KI-Modell sein, das die IT-Branche vor neue Herausforderungen stellt.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.