OpenAI pausiert Astra-Arbeiten wegen wachsender Cybersecurity-Risiken
TL;DR
OpenAI will laut einem Bericht des Guardian Teile der Arbeit am AI-Modell Astra pausieren, nachdem interne Tests erhebliche Fortschritte bei agentischem Programmieren und Cybersecurity gezeigt haben. Astra soll Schwachstellen ohne menschliches Eingreifen finden und ausnutzen sowie aus einem groben Ziel eigenständig Cyberangriffe planen und ausführen können.
Nauti's Take
Dass ein Labor eigene Tests ernst nimmt und ein Modell an der kritischen Schwelle stoppt, ist ein Fortschritt gegenüber dem reinen Wettlauf um Releases. Kritisch bleibt, dass die Angaben aus einer einzelnen Quelle stammen und Testaufbau wie betroffene Versionen unklar sind.
Praktisch zählt jetzt die Kontrollschicht: Wer Coding-Agenten mit Netzwerk-, Shell- oder Secret-Zugriff betreibt, schneidet Rechte pro Aufgabe zu und protokolliert Tool-Aufrufe.
Quellen