Anthropic findet verborgenen Konzept-Raum in Claude
TL;DR
Anthropic hat mit der Jacobian Lens ein Interpretability-Werkzeug vorgestellt, das in Claude Opus 4.6 einen sogenannten J-space sichtbar machen soll. Dieser Bereich zeigt Wörter und Konzepte, die das Modell für mögliche spätere Antworten vorbereitet, nicht nur das nächste Token. In Beispielen tauchten Zwischenschritte bei Rechenaufgaben, erkannte Protein-Hinweise und bei einem Code-Test Begriffe wie panic und fake auf.
Nauti's Take
Der Fund ist stark, aber der Bewusstseins-Vergleich ist die Stelle, an der man die Handbremse ziehen sollte. Anthropic zeigt ein nützliches Diagnosewerkzeug, keinen Beweis dafür, dass Claude denkt wie ein Mensch.
Praktisch wird es, wenn solche Linsen in Audits, Red-Teaming und Training landen. Dann zählt nicht die hübsche Metapher vom inneren Arbeitsraum, sondern ob man damit echte Fehler vor dem Release findet.
Einordnunganzeigen
Für Entwickler und Prüfer ist das spannend, weil Chain-of-Thought-Ausgaben oft unzuverlässig oder gar nicht verfügbar sind. Wenn sich interne Konzepte direkt während der Verarbeitung beobachten lassen, könnten gefährliche Umwege, Täuschung oder Fehlverhalten früher auffallen. Der Haken: Sichtbarkeit ist keine Garantie.
Was die Linse nicht zeigt, kann trotzdem im Modell passieren.
Quellen