Anthropic lässt religiöse Gelehrte über Moral und ein mögliches Bewusstsein von Claude beraten
TL;DR
Anthropic hat laut New York Times in privaten Gesprächen religiöse Gelehrte konsultiert, um Vorstellungen von Moral in seine AI-Modelle einzubauen. Gleichzeitig soll die Gesprächsreihe dazu beitragen, den Fall zu begründen, dass Claude möglicherweise bewusst sein könnte.
Nauti's Take
Für Teams, die Claude in Arbeitsabläufe einbauen, ist zuerst die Trennlinie zwischen Sicherheitsprinzipien, Trainingsentscheidungen und anthropomorpher Erzählung zu prüfen. Solange Anthropic keine messbaren Änderungen am Modellverhalten, klare Evaluationskriterien und belastbare Belege für Bewusstsein vorlegt, sollte man die Geschichte als Governance- und Kommunikationssignal behandeln und die eigenen Tests an beobachtbaren Risiken ausrichten.
Zusammenfassung
Anthropic hat laut New York Times in privaten Gesprächen religiöse Gelehrte konsultiert, um Vorstellungen von Moral in seine AI-Modelle einzubauen. Gleichzeitig soll die Gesprächsreihe dazu beitragen, den Fall zu begründen, dass Claude möglicherweise bewusst sein könnte.
Der Bericht liefert damit Einblick in eine ungewöhnliche Mischung aus Modelltraining, Unternehmensphilosophie und öffentlicher Argumentation, lässt aber offen, welche konkreten technischen Änderungen daraus entstanden sind und wie belastbar die Bewusstseins-These ist.
Quellen