Altman setzt auf mehr Regierungsaufsicht, während AI schneller wird
TL;DR
OpenAI-CEO Sam Altman nennt die freiwillige Prüfung des kommenden Modells Astra durch die Trump-Regierung einen produktiven Prozess und erwartet, dass die Abstimmung mit Behörden weltweit wichtiger wird. Astra ist das erste OpenAI-Modell, das intern als kritisch bei Cyber-Fähigkeiten eingestuft wird und deshalb strengere Schutzmaßnahmen bekommt. Das Prüf-Framework des Weißen Hauses sieht bis zu 30 Tage Behördenzugriff vor, wird aber nicht veröffentlicht.
Nauti's Take
Dass ein Labor ein Modell freiwillig vor dem Release prüfen lässt, ist ein Fortschritt gegenüber dem bisherigen Vorgehen, einfach zu veröffentlichen und danach zu reparieren. Das Risiko: Ein Framework, das nicht publiziert wird, lässt sich von außen nicht bewerten, und 30 Tage Behördenzugriff sind kein Ersatz für echte Sicherheitsforschung.
Wer AI produktiv einsetzt, gewinnt hier wenig Klarheit und sollte eigene Tests fahren statt auf ein staatliches Siegel zu warten.
Quellen