US-Regierung bremst Anthropics KI-Modelle Fable 5 und Mythos nach Jailbreak-Fund
TL;DR
Anthropic veröffentlichte Fable 5 als abgesicherte öffentliche Version des leistungsstärkeren Mythos 5. Weniger als eine Woche später verhängte die US-Regierung Exportkontrollen für beide Modelle. Auslöser war laut The Verge ein möglicher Jailbreak aus Amazon-Red-Teaming. Danach soll die Trump-Regierung Anthropic ein 90-Minuten-Ultimatum gesetzt haben.
Nauti's Take
Anthropic bekommt hier die Rechnung für jahrelanges Sicherheitsmarketing: Wer sein Modell als potenziell gefährlich verkauft, darf sich über nervöse Behörden nicht wundern. Trotzdem wirkt der Ablauf schlecht.
Ein 90-Minuten-Ultimatum und ein pauschales Verbot für ausländische Staatsbürger sind kein AI-Sicherheitsrahmen. Das ist Politik per Panikknopf und genau damit wird Regulierung unberechenbar.
Einordnunganzeigen
Der Fall zeigt, wie dünn die Trennlinie zwischen AI-Sicherheit, Industriepolitik und Machtpolitik geworden ist. Wenn ein möglicher Jailbreak direkt zu Exportkontrollen führt, brauchen Firmen Red-Teams, belastbare Behördenprozesse und Krisenpläne. Für Nutzer kann der Zugriff auf Top-Modelle plötzlich an Geopolitik und Staatsangehörigkeit hängen.
Quellen