US-Regierung sperrt Anthropic-Modelle nach Jailbreak-Verdacht
TL;DR
Die Trump-Regierung belegte Anthropics neues Modell Fable 5 und das zugrunde liegende Mythos 5 kurz nach dem Start mit Exportkontrollen. Die Auflage traf auch ausländische Staatsangehörige in den USA, selbst Anthropic-Mitarbeiter. Anthropic nahm Fable und Mythos deshalb komplett offline. Auslöser war laut The Verge ein möglicher Jailbreak aus Amazon-Red-Teaming. Die Regierung setzte Anthropic demnach unter ein 90-Minuten-Ultimatum.
Nauti's Take
Anthropic hat jahrelang betont, dass frontier AI gefährlich werden kann. Jetzt erlebt das Unternehmen, wie unangenehm Regulierung wird, wenn sie nicht sauber, transparent und technisch belastbar abläuft.
Gleichzeitig ist das kein Freispruch für Anthropic: Wer Modelle als potenzielle Cyberwaffen beschreibt, darf sich nicht wundern, wenn Behörden nervös werden. Das Problem ist der Modus: 90-Minuten-Druck und diffuse Regeln sind keine Sicherheitsarchitektur.
Einordnunganzeigen
Der Kern ist nicht nur, ob Fable 5 gefährlich war. Entscheidend ist, wer künftig die Grenze zieht: Sicherheitsforscher, AI-Firmen, Behörden oder politische Beziehungen. Wenn Exportkontrollen zur Sofortwaffe werden, müssen Unternehmen politische Risiken genauso einplanen wie Modellrisiken.
Quellen