US-Militär: Fehlerhafter KI-Bericht löst beinahe Militärschlag aus
Ein fehlerhafter Geheimdienstbericht hat im Frühjahr 2026 beinahe einen Militärschlag der USA gegen ein chinesisches Schiff ausgelöst. Wie der Nachrichtensender CNN berichtet(öffnet im neuen Fenster), verwendete ein Militäranalyst eine KI, die fälschlicherweise behauptete, ein chinesisches Schiff transportiere Komponenten für ein Nuklearwaffenprogramm im Mittleren Osten.
Das US-Militär bereitete daraufhin eine Abfangoperation vor. Bewaffnete Truppen planten das Betreten des Schiffes und es waren bereits Militärflugzeuge in der Luft. Erst unmittelbar vor der Ausführung untersuchten Offiziere den Bericht genauer und stellten fest, dass dieser mithilfe von künstlicher Intelligenz erstellt worden war.
Der Analyst hatte einen Chatbot zu einem Geheimdienstbericht über die Schiffsmanifestliste befragt, der vom US Special Operations Command Pacific mit Sitz in Hawaii stammte. Die KI identifizierte die Fracht des Schiffes fehlerhaft und löste damit beinahe einen bewaffneten Konflikt mit China aus.
Einbindung des Menschen in die Entscheidungskette
Der Bot verknüpfte öffentlich zugängliche Informationen mit geheimen, in Regierungsbeständen befindlichen Signalaufklärungsdaten und gelangte dadurch zu der fehlerhaften Schlussfolgerung über die Ladung des Schiffes. Anschließend nutzte der Analyst erneut KI, um seine Rechercheergebnisse in das standardisierte Format eines Geheimdienstberichts umzuwandeln.
Das US-Militär und US-Geheimdienste treiben die Einführung von KI in Bereichen wie der Datenanalyse und Zielauswahl stark voran, um Entscheidungen auf dem Schlachtfeld zu beschleunigen und gegenüber Gegnern nicht in Rückstand zu geraten.
Das Geschehen verdeutlicht allerdings, dass fehlerhafte oder irreführende KI-Daten zu katastrophalen Fehleinschätzungen durch menschliche Entscheidungsträger führen können. Insbesondere bei der automatisierten Zielerfassung fehlt es bislang an klaren Richtlinien (g+) dafür, wie die Einbindung des Menschen in die Entscheidungskette zivile Opfer oder Eigenbeschuss verhindern soll.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.