Anthropic erforscht Claudes Innenleben und meldet Hinweise auf einen globalen Workspace
TL;DR
Anthropic beschreibt in einem neuen Forschungspapier einen internen Raum namens J-Space, in dem sich bei Claude offenbar zusammenhängende Verarbeitungsmuster beobachten lassen. Das Unternehmen vergleicht diese Strukturen vorsichtig mit einem globalen Workspace und spricht damit über Mechanismen, die an interne Zustände erinnern. Der Bericht stammt bislang vor allem aus Anthropics eigener Forschung, aufgegriffen von Tom's Hardware AI.
Nauti's Take
Der praktische Wert dieser Forschung liegt bei Audits, Monitoring und Safety-Evals. Entscheidend ist, ob die beobachteten Signale reale Fehlermuster zuverlässig erklären und sich auch außerhalb kontrollierter Tests reproduzieren lassen.
Bis dahin bleibt die externe Bestätigung dünn.
Quellen