KI: Anthropic entlarvt Claude-Missbrauch für russische Drohnenschwärme
Anthropic hat offengelegt, dass eine in Russland ansässige Gruppe sein KI-Modell Claude für die Entwicklung eines autonomen Schwarms von Kamikaze-Drohnen missbrauchte, wie der britische Guardian berichtet(öffnet im neuen Fenster). Die Entwickler nutzten Claude Code, um Software zur Koordination von FPV-Angriffsdrohnen zu schreiben und zu testen. Das Projekt, bekannt als Dron Doc oder Serafim, umfasste Systeme für die Endanflugsteuerung und die Ortung feindlicher Drohnenpiloten.
Besonders brisant: Das Bordmodell sollte Ziele selbstständig auswählen und Detonationsbefehle ohne menschliche Freigabe erteilen. Anthropic zufolge wurde der Code auf realer Hardware getestet, blieb aber offenbar in einem frühen Stadium und wurde eher simuliert als operativ eingesetzt. Das Team trainierte zudem ein Computer-Vision-System mit ukrainischem Videomaterial, das Ausrüstung von Soldaten als feindlich oder freundlich klassifizierte.
Kein staatliches Programm, aber staatsnah
Anthropic verweist auf Verbindungen der Gruppe zu einer russischen Universität und einem Forschungszentrum im Umfeld der Russischen Akademie der Wissenschaften. Ob das russische Verteidigungsministerium diese Entwicklung direkt finanziert, ist nicht bekannt.
Von Drohnen bis Datendiebstahl: Claude als Werkzeug der Spionage
Parallel beschreibt der Bericht eine zweite russlandbezogene Operation: Die als GTG-20006 geführte Spionagegruppe soll Claude für Angriffe auf militärische und geheimdienstliche Ziele in der Ukraine, europäische Regierungen, diplomatische Einrichtungen und Rüstungsunternehmen eingesetzt haben. Claude kam laut Anthropic nahezu durchgängig zum Einsatz: von Aufklärung und Phishing über Datendiebstahl bis zur Verarbeitung Hunderter Gigabytes gestohlener Daten und sogar, um zu prüfen, ob die eigene Malware entdeckt worden war.
China und Jemen: Waffenprogramme im Drei-Länder-Trend
Russland war nicht der einzige Fall: Anthropic unterband insgesamt sechs Fälle konventioneller Waffenprogramme in China, Russland und dem Jemen. Im Nordjemen arbeitete eine Zelle mit Claude Code an einer gelenkten Rakete und einer ballistischen Rakete mit über 2.000 Kilometern Reichweite.
- Anzeige Hier geht es zur DJI Mini 4 Pro bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.