Der Plan des Weißen Hauses für AI-Sicherheitstests bleibt geheim
TL;DR
Die Trump-Regierung hat diese Woche ein Rahmenwerk finalisiert, mit dem neue AI-Modelle auf Sicherheits- und Cyberrisiken geprüft werden sollen. Vertreter von OpenAI, Anthropic, Meta, Google, Nvidia und Microsoft haben es in einem nicht öffentlichen Treffen im Weißen Haus zu sehen bekommen. Veröffentlicht wird das Papier aber nicht: Die Testkriterien gehen nur an ausgewählte Tech-Konzerne. Wie streng die freiwillige Prüfung wirklich ist, kann von außen niemand nachvollziehen.
Nauti's Take
Dass überhaupt ein einheitlicher Testrahmen für Sicherheits- und Cyberrisiken existiert, ist ein Fortschritt gegenüber dem Zustand ganz ohne gemeinsame Messlatte. Das Problem ist die Geheimhaltung: Wenn nur eine Handvoll Konzerne die Kriterien kennt, lässt sich von außen weder prüfen noch vergleichen, wie streng wirklich getestet wird.
Große Labs profitieren von der Nähe zum Verfahren, kleinere Anbieter und die Forschung müssen die Ergebnisse einfach glauben.
Quellen