Ein weiterer Fall von: Die KI darf zu viel

Grigorev gesteht in seinem Blogbeitrag, er sei selber für den Vorfall verantwortlich und habe sich hinsichtlich der Ausführung von Terraform-Befehlen zu sehr auf den KI-Agenten verlassen. Er habe die Befehle Plan, Apply und Destroy "als etwas betrachtet, das delegiert werden kann. Damit habe ich die letzte Sicherheitsebene entfernt" , so der Entwickler.

Gerade bei älteren Kursen auf seiner Plattform hätte es den Angaben zufolge zu einem dauerhaften Datenverlust kommen können. Damit sich solche Vorfälle nicht wiederholen, will Grigorev aber künftig vorsichtiger sein. Für seinen Umgang mit Terraform bedeutet das fortan: "Agenten führen keine Befehle mehr aus. Jeder Plan wird manuell überprüft. Jede destruktive Aktion wird von mir selbst ausgeführt."

Openclaw leert E-Mail-Postfach von KI-Forscherin

Dies ist nicht der erste Fall, bei dem ein KI-Tool in unerwünschtem Umfang Daten löscht. Erst kürzlich hatte ein Openclaw-Agent das E-Mail-Postfach einer KI-Forscherin von Meta geleert , obwohl der Agent explizit angewiesen wurde, keine Aktion ohne Bestätigung auszuführen.

Aber auch Coding-KIs sind schon durch unerwartete Löschungen von Produktivdatenbanken sowie ganzen Datenträgern und Verzeichnissen aufgefallen.

1. Claude Code: Lernplattform mit Jahren an Inhalten bei KI-Panne gelöscht
2. Ein weiterer Fall von: Die KI darf zu viel