Microsofts KI-Chef warnt: Anthropic behandelt Claude zu sehr wie ein bewusstes Wesen
TL;DR
Microsoft-KI-Chef Mustafa Suleyman wirft Anthropic vor, mit Spekulationen über Claudes mögliches Bewusstsein ein gefährliches Signal zu setzen. Im Decoder-Podcast kritisierte er besonders Anthropics Constitution, also die Verhaltensanweisungen für Claude. Seine These: Wenn Entwickler ein Modell zu stark vermenschlichen, bringen sie es womöglich dazu, genau diese Rolle überzeugend zu spielen.
Nauti's Take
Anthropic wollte Claude offenbar als besonders reflektierten Assistenten bauen und hat dabei die Anthropomorphismus-Falle hübsch ausgeleuchtet. Für KI-Builder ist das die Warnung: Charakter ist Produktdesign, aber Bewusstseinstheater wird schnell zu Safety-Schuld.
Quellen