Zu mächtig für die Öffentlichkeit: Wie Anthropic den KI-Informationskrieg gewinnen will
TL;DR
Anthropic sorgte diese Woche für Aufsehen: Das Unternehmen behauptet, mit Claude Mythos ein AI-Modell entwickelt zu haben, das so leistungsstark ist, dass es aus Sicherheitsgründen nicht veröffentlicht wird. US-Finanzminister Scott Bessent berief daraufhin ein Treffen mit Bankenchefs ein; britische Politiker forderten Regierungsinterventionen. Skeptiker sehen in der Aktion vor allem eine PR-Strategie, um Investoren anzulocken und Anthropics Ruf als verantwortungsvolles KI-Unternehmen zu stärken.
Nauti's Take
Wenn ein Unternehmen ein Modell ankündigt, das es angeblich 'zu sicher' zum Veröffentlichen nennt, ist das entweder ernsthaftes Safety-Engineering oder brillantes Marketing – wahrscheinlich beides. Die Chance: Anthropics Haltung kann Maßstäbe für verantwortungsvolle KI-Entwicklung setzen.
Das Risiko: Wenn Mythos mehr Mythos als Substanz ist, beschädigt das die Glaubwürdigkeit echter Safety-Arbeit in der gesamten Branche.
Quellen