Anthropic: Amazon-Alarm löste wohl Fable-Verbot aus
Inhalt
Ein Telefonat ist wohl der Auslöser für die Sperrung des Anthropic-Modells Fable 5 gewesen. Andy Jassy, CEO von Amazon, rief US-Finanzminister Scott Bessent und andere Regierungsvertreter an und schilderte ein Problem: Amazons eigene Forscher hatten das Modell mit einer bestimmten Abfolge von Prompts dazu gebracht, sicherheitsrelevante Informationen preiszugeben, die das Modell eigentlich nicht herausgeben sollte. Was als Warnung gedacht war, löste eine Kettenreaktion aus, wie das Wall Street Journal berichtet(öffnet im neuen Fenster).
Das Weiße Haus berief Sicherheitsexperten ein, die Amazons Befunde testeten. Noch am selben Tag stand die Entscheidung: Ausländische Regierungen, Unternehmen und Einzelpersonen sollten den Zugang zu Fable 5 und Anthropics Spitzenmodell Mythos verlieren. Präsident Trump unterzeichnete die Maßnahme, intern gab es laut einem ranghohen Beamten jedoch Bedenken wegen möglicher Innovationsschäden, so das WSJ.
Was fand Amazon?
Amazons interner Bericht, den laut WSJ Cybersicherheitsexperten einsehen konnten, zeigt: Fable 5 ließ sich mit gezielten Eingaben dazu bringen, Sicherheitslücken in mindestens vier Softwareprogrammen offenzulegen.
Andrew Morris, Gründer der Sicherheitsfirma Greynoise Intelligence, bezeichnete den Fund als bedeutsam. Viele andere frei verfügbare Modelle könnten ähnliche Informationen liefern. Was Anthropics Software unterscheide, sei die Fähigkeit, Schwachstellen in funktionierenden Exploit-Code umzuwandeln. Dafür gibt es bislang keine Belege.
Anthropic wehrte sich gegen die Darstellung. Die gefundenen Schwachstellen seien vergleichsweise simpel gewesen, von einem vollständigen Jailbreak weit entfernt. Einige Cybersicherheitsforscher teilen diese Einschätzung.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.