Anthropic-CEO Dario Amodei fordert ein langsameres Tempo bei AI
TL;DR
Dario Amodei hat in einem Social-Media-Post einen Dreipunkteplan vorgelegt, mit dem die AI-Branche ihr Tempo drosseln soll. Anthropic will den ersten Schritt unilateral gehen und externen Prüfern dauerhaften Zugang auf Mitarbeiterniveau zu den eigenen Systemen geben. Diese sollen kontrollieren, ob die Safety-Maßnahmen eingehalten werden, Vorfälle melden und das Alignment der Modelle bereits während des Trainings bewerten. Sein Essay dazu trägt den Titel We Must Pace the Frontier.
Nauti's Take
Ein Lab, das externen Prüfern dauerhaften Zugang auf Mitarbeiterniveau gibt, schafft echte Transparenz, und das ist eine Chance für die ganze Branche. Das Risiko liegt im Alleingang: Solange OpenAI, Google und die chinesischen Labs nicht mitziehen, bremst sich Anthropic selbst aus, ohne dass das Tempo insgesamt sinkt.
Für dich als Nutzer ändert sich vorerst wenig, für Regulierer ist der Vorschlag aber eine brauchbare Blaupause.
Quellen