Anthropic-Blockade zeigt, wie chaotisch Washingtons KI-Sicherheitskurs noch ist
TL;DR
The Verge rekonstruiert im Decoder, wie Anthropic kurz nach dem öffentlichen Start von Fable 5 in eine politische Eskalation geraten ist. Die US-Regierung belegte Fable 5 und das zugrunde liegende Mythos-Modell mit Exportkontrollen. Die Auflage traf nicht nur ausländische Kunden, sondern offenbar auch nicht-amerikanische Anthropic-Mitarbeiter in den USA. Anthropic nahm daraufhin Fable und Mythos komplett offline, weil eine saubere Zugriffsbeschränkung kurzfristig kaum machbar war.
Nauti's Take
Das Problem ist nicht, dass gefährliche Modelle reguliert werden. Das Problem ist eine Regulierung, die nach Telefonkette, Wochenendpanik und Machtreflex aussieht.
Anthropic hat selbst geholfen, die Sprache der existenziellen AI-Gefahr in Washington groß zu machen; jetzt merkt die Firma, dass diese Sprache auch gegen sie eingesetzt werden kann. Wer über zu gefährliche AI entscheidet, darf nicht der letzte sein, der am Freitag den lautesten Alarm auslöst.
Einordnunganzeigen
Der Fall zeigt, dass AI-Sicherheit nicht nur eine technische Frage ist. Wenn Regierungen ohne klare Verfahren auf einzelne Jailbreak-Berichte reagieren, entstehen sofort Kollateralschäden für Forschung, Kunden, Mitarbeiter und internationale Wettbewerbsfähigkeit. Entscheidend wird, ob AI-Regulierung nachvollziehbare Schwellen, Beweise und Zuständigkeiten bekommt - oder ob sie zur politischen Sofortmaßnahme wird.
Quellen