Anthropic: Claude markiert alles KI-generierte
Anthropic hat den Code of Practice zu Artikel 50(2) der EU-KI-Verordnung unterzeichnet und verpflichtet sich damit zur Kennzeichnung KI-generierter Inhalte. Das Unternehmen definiere sich sowohl als Anbieter von generativen KI-Modellen als auch von generativen KI-Systemen und habe beschlossen, diese Zusagen konkret umzusetzen, heißt es in einem Blogartikel.(öffnet im neuen Fenster).
Eingebettete Watermarks und digital signierte Metadaten
Neue Modelle, die seit dem 2. August 2026 in der EU auf dem Markt sind, unterstützen demnach von Beginn an maschinenlesbare Markierungen. Diese Kennzeichnung gilt übergreifend und weltweit für Claude Platform, Claude, Claude Code, Claude Cowork und Claude Tag.
Anthropic räumte ein, dass nicht jede Plattform oder Funktion alle Markierungstypen gleich gut unterstütze. Vor dem Stichtag veröffentlichte Modelle fallen in eine Übergangsfrist. Das Unternehmen arbeitet an einer Nachrüstung, nannte aber keinen konkreten Zeitplan.
Claude setzt auf zwei komplementäre Verfahren. Zum einen werden unsichtbare Watermarks direkt in den generierten Text eingebettet. Sie sollen nicht zerstört werden, wenn der Text kopiert wird, und sollen selbst bei Nachbearbeitungen erhalten bleiben. Zum anderen werden für unterstützte Dateitypen wie SVG, PNG oder JPG signierte Metadaten nach dem C2PA-Standard angehängt. Das Vorhandensein eines solchen Labels signalisiert, dass die Datei von Claude verarbeitet wurde.
Falsche Verdächtigungen möglich
Anthropic betonte, dass maschinenlesbare Kennzeichnungen keine Beweiskraft besäßen. Eine Markierung gebe lediglich einen Hinweis darauf, dass Claude am Inhalt mitgewirkt habe; sie bestätige nicht die gesamte Entstehungsgeschichte des Materials.
Claude dient Nutzern oft als Korrekturleser, Übersetzer, Zusammenfasser oder Konverter. Das Ergebnis enthält dann zwar eine Markierung, der Text oder die Dateien können aber auch menschengemacht sein. So könnten falsche Verdächtigungen entstehen.
Auch nachgelagerte Veränderungen spielen eine Rolle: Markierte Inhalte können modifiziert, auszugsweise verwendet oder mit anderem Material verknüpft werden. Umgekehrt bedeutet das Fehlen einer erkennbaren Markierung nicht zwingend, dass kein KI-generierter Inhalt vorliegt. Texte können stark überarbeitet, umformuliert oder so kurz sein, dass ein zuverlässiges Signal nicht mehr möglich ist.
Unternehmen, die Claude in eigene Produkte integrieren, sind nach Anthropics Darstellung dazu angehalten, eigenständig zu prüfen, was Artikel 50 für ihre Angebote verlange. Anthropic will Entwickler aber bei der Erfüllung eigener Transparenzpflichten unterstützen. Technische Hintergründe zu den Markierungs- und Nachweisverfahren sollen sukzessive veröffentlicht werden.
Die Verwendung von Zeichen mit kaum erkennbaren Unterschieden ist im KI-Kontext nicht neu: Googles SynthID nutzt dies, um KI-generierte Texte zu kennzeichnen, auch ChatGPT hinterließ zeitweise solche Marker in generierten Texten.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.