KI als Waffeningenieur: Huthi sollen Claude für Raketensoftware missbraucht haben
Huthi-Rebellen sollen Anthropics KI Claude eingesetzt haben, um Steuerungs-, Navigations- und Kontrollsoftware für ballistische Raketen zu entwickeln. Das geht aus einem internen Bericht hervor, von dem die Financial TImes berichtet(öffnet im neuen Fenster).
Anthropic nannte die vom Iran unterstützten Huthi zwar nicht namentlich. Das Unternehmen erklärte jedoch, es habe "eine Zelle von Akteuren mit Sitz im Nordjemen" identifiziert – ein Gebiet, das weitgehend unter Kontrolle der Huthi-Rebellen steht -, die drei Waffenentwicklungsprogramme betrieben habe.
Der Bericht dürfte die Sorge weiter befeuern, dass KI-Systeme in die Hände terroristischer Akteure gelangen könnten, die die eingebauten Schutzmechanismen umgehen.
KI ersetzt Software-Ingenieure
Laut Anthropic strebte die jemenitische Zelle die Entwicklung mehrerer Waffensysteme an: eine mehrstufige ballistische Rakete, eine Rakete mit mehreren Varianten sowie eine gelenkte Rakete, deren Herzstück ein sogenannter "Flugcomputer auf Smartphone-Niveau" aus handelsüblichen Komponenten war.
Die Gruppe soll die KI eingesetzt haben, um eine quelloffene Steuerungssoftware auf Smartphones zu portieren, Steuerungs- und Positionsbestimmungssoftware zu schreiben, Regelparameter zu optimieren und Flugsimulationen durchzuführen.
Anthropic räumte ein, dass seine Sicherheitsvorkehrungen viele der Anfragen blockierten, aber nicht alle. Die Akteure sollen die Beschränkungen umgangen haben, indem sie ihre Absichten verschleierten und ihre Arbeit auf zahlreiche Sitzungen verteilten, so dass keine einzelne Sitzung das volle Ausmaß des Projekts erkennen ließ.
Fehlgeschlagener Feldversuch bremst Waffenprogramm offenbar aus
Trotz des Aufwands gibt es keine eindeutigen Belege dafür, dass die jemenitischen Akteure tatsächlich eine einsatzfähige Waffe produziert haben. Anthropic zufolge testete die Gruppe zwar eine gelenkte Rakete, doch der Feldversuch sei "offenbar fehlgeschlagen".
"Innerhalb weniger Stunden kehrten die Akteure zu Claude zurück, um herauszufinden, warum der Test scheiterte", so das Unternehmen. Der Bericht warnt jedoch, dass die Akteure bereits ein Offline-Simulationswerkzeug aufgebaut hatten, das weder Claude noch andere KI benötigt.
Huthi-Offensive treibt Ölpreis in die Höhe
Die von den USA als Terrororganisation eingestufte Gruppe startete diese Woche eine Offensive entlang der jemenitischen Rotmeerküste, eroberte einen strategisch wichtigen Hafen und rückte auf die Bab-al-Mandeb-Straße und die vorgelagerten Inseln. Damit kontrolliert der Iran nicht nur die Straße von Hormus, sondern auch die Zufahrt zum Suezkanal. Außerdem wurde die saudi-arabische Ölpipeline Petroline beschädigt und in der Folge abgeschaltet(öffnet im neuen Fenster), so dass Saudi Arabien kein Erdöl mehr exportieren kann.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.