Anthropic findet versteckten Denkraum in Claude
TL;DR
Anthropic beschreibt bei Claude einen kleinen internen Arbeitsbereich, der Konzepte halten und verändern kann, ohne sie direkt in Text auszugeben. Das Unternehmen nennt ihn J-Space, nach der Jacobian-Methode, mit der diese Aktivierungen entdeckt worden sein sollen. Laut Anthropic können dort Begriffe wie Golden Gate Bridge und California aktiv bleiben, obwohl die sichtbare Aufgabe nur Kopieren verlangt.
Nauti's Take
Für Teams gehört das in die Interpretability-Schublade. Wer Claude in Prüf-, Agenten- oder Compliance-Workflows nutzt, sollte testen, ob verdeckte Kontextreste Entscheidungen beeinflussen: gleiche Aufgabe, ablenkende Begriffe, Wiederholungen und Protokollvergleich.
Die Bewusstseins-Erzählung kannst du parken, bis unabhängige Replikationen da sind.
Einordnunganzeigen
Wenn solche Zwischenräume messbar sind, wird Chain-of-Thought als Fenster in Modelllogik noch schwächer: Die sichtbare Begründung ist nur ein Teil der Arbeit. Für Sicherheitsteams ist wichtiger, ob J-Space Hinweise auf verdeckte Ziele, Sabotage oder Fehlanpassung liefert, bevor die Antwort harmlos aussieht.
Quellen