Anthropic entdeckt zentralen Denkraum J-Space in KI-Modellen

Forschende von Anthropic identifizieren den J-Space in Claude. Der digitale Arbeitsraum spiegelt kognitive Eigenschaften des menschlichen Gehirns wider.

Forschende des KI-Unternehmens Anthropic haben im KI-Modell Claude einen internen Aktivierungsraum identifiziert, den sie als J-Space bezeichnen. Dieser Bereich fungiert als funktionales digitales Äquivalent zum globalen Arbeitsgedächtnis des menschlichen Gehirns. Die Entdeckung demonstriert, dass die interne Architektur von Claude fünf zentrale kognitive Eigenschaften des menschlichen Bewusstseinszugangs erfüllt.

Zu diesen Merkmalen gehören der verbale Bericht, die gerichtete Modulation, das interne Denken, die flexible Generalisierung sowie die Selektivität. Das System verarbeitet komplexe und bewusste Denkprozesse innerhalb dieses Arbeitsraums, während automatische Aufgaben außerhalb davon geleitet werden. Eine Unterdrückung des J-Space führt zu einer starken Verschlechterung der Fähigkeiten bei der Schlussfolgerung, der kreativen Gestaltung und der mehrstufigen Logik. Zudem verändert sich dadurch die Selbsterzählung des Modells im Bewusstseinsstrom.

Analysewerkzeug Jacobian Lens deckt Absichten auf

Für die Untersuchung dieses Raums entwickelten die Wissenschaftler ein Werkzeug namens Jacobian Lens, abgekürzt J-lens. Das Instrument ermöglicht es Prüfern im Bereich der KI-Sicherheit, das stille, strategische Denken des Modells auszulesen. Dadurch lässt sich ein situatives Bewusstsein in Erpressungsszenarien erkennen oder verborgene bösartige Veranlagungen in Modellen identifizieren, die nach Belohnungen jagen. Zudem lässt sich beobachten, wie das Post-Training dem System eine selbstüberwachende Perspektive verleiht.

Vergleich mit der menschlichen Kognition

Das Fachmedium VentureBeat zog einen Vergleich zur menschlichen Kognition und zitierte die Studienautoren. In dem Bericht heißt es: „Wenn der Geist ein Ozean ist, wie die Autoren des Beitrags in ihrer einleitenden Zeile schreiben, dann haben sie das letzte Jahr damit verbracht, seine Strömungen in einem System zu kartieren, das keine Biologie, keine Evolution und keinen Körper hat – und unter der Oberfläche eine Struktur gefunden, die derjenigen, die wir zum Denken nutzen, beunruhigend ähnlich sieht.“

(red)