KI-Strukturen: Anthropic identifiziert J-Space in Claude
Anthropic hat laut Wccftech(öffnet im neuen Fenster) bei der Untersuchung des KI-Modells Claude eine interne Struktur identifiziert, die Parallelen zur Global Workspace Theory aus der Neurowissenschaft aufweist. Diese Theorie(öffnet im neuen Fenster) postuliert, dass Gedanken für ein System zugänglich werden, wenn sie in einen privilegierten Arbeitsbereich gelangen, der die Informationen global verteilt. Die Forscher haben nun bei Claude einen Mechanismus lokalisiert, den sie als J-Space bezeichnen.
Der J-Space macht laut den Ergebnissen weniger als 10 Prozent der gesamten neuronalen Aktivität des Modells aus. Die wesentliche Verarbeitung – etwa die Erstellung korrekter Grammatik, flüssige Sprachausgabe oder einfacher Faktenabruf – findet außerhalb dieses Bereichs automatisch statt. Anthropic stellt explizit klar, dass diese Beobachtung keine Rückschlüsse auf ein phänomenales Bewusstsein zulässt. Der Befund bezieht sich lediglich auf ein "Access Consciousness" im philosophischen Sinne, also auf funktionale und abrufbare interne Zustände.
Mathematische Filterung mit J-Lens
Zur Untersuchung entwickelten die Forscher das Werkzeug J-Lens, eine sogenannte Jacobian Lens. Dieser mathematische Filter blendet Hintergrundprozesse aus, um den Fokus auf die aktuellen internen Verarbeitungsprozesse des Modells zu richten. Anthropic weist jedoch darauf hin, dass es sich um ein unvollkommenes Werkzeug handelt, das die Workspace-Struktur lediglich näherungsweise erfassen kann.
In der Praxis fungiert der J-Space als ein Arbeitsbereich, in dem das Modell Konzepte verarbeitet, ohne diese explizit auszugeben. Dies unterscheidet den J-Space von einem schriftlichen Scratchpad oder Chain-of-Thought-Verfahren. Belegt ist dies etwa durch Kopfrechenaufgaben (3² − 2), die das Modell simultan zu einem thematisch unabhängigen Satz erledigt, wobei der J-Space die mathematischen Zwischenschritte abbildet.
Ein weiteres Beispiel ist die Ableitung von Attributen: Wird das Modell mit dem Konzept "Spinne" konfrontiert, erscheinen im J-Space Informationen wie "8 Beine", ohne dass der Begriff "Spinne" im eigentlichen Text auftaucht. Auch das Zitrusfrüchte-Beispiel zeigt dies: Während Claude einen Text schreibt, erscheinen im J-Space Begriffe wie "Orange" oder "Fruits".
Struktur als emergentes Phänomen
Die Struktur des J-Space war dabei nicht Bestandteil der architektonischen Planung von Claude. Sie entwickelte sich eigenständig während des Trainingsprozesses, was darauf hindeutet, dass ein globaler Arbeitsbereich für intelligenten Zugriff eine effiziente Methode zur Organisation komplexer Berechnungen darstellt.
Das lässt sich als eine Art konvergente Evolution deuten, bei der intelligente Systeme unabhängig voneinander zu ähnlichen Lösungsansätzen gelangen. Konzepte, die in den J-Space gelangen, stehen anderen Teilen des Modells zur Verfügung und können dort für unterschiedliche Aufgaben genutzt werden. Die Forscher konnten zudem beobachten, dass der J-Lens anzeigt, wenn Claude ein Szenario intern als fiktiv einstuft oder Anzeichen von Datenmanipulation erkennt.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.