DeepMind-Chef Hassabis fordert US-geführte Aufsicht für Frontier-AI
TL;DR
Demis Hassabis, Mitgründer und CEO von Google DeepMind, fordert eine neue, von den USA geführte AI-Aufsicht für die leistungsstärksten Modelle. In einem am Dienstag veröffentlichten Manifest skizziert er eine Behörde, die Frontier-Modelle prüft und bei steigenden Risiken eine koordinierte Verlangsamung der Entwicklung anstoßen könnte. Laut Hassabis reichen die heutigen Cyberrisiken bereits als Warnsignal.
Nauti's Take
Für kleine Teams ist das vor allem ein Kontrollthema. Wenn führende Labs selbst nach Vorabprüfung und möglicher Drosselung rufen, solltet ihr bei Open-Source-Modellen zuerst Rechte, Sicherheitsgrenzen und Missbrauchspotenzial prüfen, bevor ihr sie in produktive Workflows, Agenten oder interne Datenflüsse einbaut.
Unklar bleibt, wie realistisch ein global abgestimmter Slowdown politisch überhaupt wäre.
Quellen