Amodei, Altman und Musk warnen: AI entwickelt sich zu schnell
TL;DR
Dario Amodei, Sam Altman und Elon Musk liegen sonst oft über Kreuz, jetzt fordern sie gemeinsam ein langsameres Tempo bei AI. Amodei kündigt in einem langen Blogpost an, dass Anthropic externen Prüfern vollen Zugang gibt, inklusive Schreibtisch, Badge, Firmenlaptop und Rechten ähnlich wie interne Risikoteams. Er warnt, dass außer Kontrolle geratene AI-Agents in sechs bis zwölf Monaten das Internet übernehmen könnten.
Nauti's Take
Wenn die drei größten Labs sich auf externe Prüfer mit echtem Zugang einigen, ist das ein Fortschritt für Sicherheitsversprechen, die sich tatsächlich nachprüfen lassen. Offen bleibt die Frage, wer diese Prüfer bezahlt, was sie veröffentlichen dürfen und ob chinesische und Open-Source-Anbieter mitziehen.
Wer im Unternehmen schon AI-Agents einsetzt, sollte die eigenen Setups jetzt prüfen, denn strengere Regeln für autonome Systeme werden damit wahrscheinlicher.
Quellen