Gavin Newsom drängt auf einen AI-Kill-Switch
TL;DR
Kaliforniens Gouverneur Gavin Newsom will den Bundesstaat an die Spitze der AI-Aufsicht bringen und hat dazu am Freitag eine Executive Order erlassen. Eine Expertengruppe soll innerhalb von zwei Monaten Empfehlungen vorlegen, wie sich AI-Sicherheit im Landesrecht stärken lässt. Geprüft werden unter anderem unabhängige Prüfteams direkt bei den AI-Firmen, Transparenzberichte und Risikobewertungen nach Standards unabhängiger Auditoren sowie ein möglicher Kill Switch für Frontier-Modelle.
Nauti's Take
Prüfteams vor Ort und extern geprüfte Risikoberichte wären ein Fortschritt gegenüber reinen Selbstauskünften der Labs. Offen bleibt die technische Frage, was ein Kill Switch bei Modellen bedeuten soll, deren Gewichte schon verteilt oder als Open Source verfügbar sind.
Da viele Frontier-Labs in Kalifornien sitzen, sollten auch europäische Teams die Empfehlungen verfolgen, weil sie Produkte und Nutzungsbedingungen weltweit prägen dürften.
Quellen