OpenAI löst sein Preparedness-Team offenbar auf
TL;DR
Laut Financial Times hat OpenAI sein Preparedness-Team Ende letzten Monats aufgelöst. Das Team sollte prüfen, ob Modelle ernsthafte Risiken bergen, und Gegenmaßnahmen entwickeln. Die Verantwortung wandert jetzt aufgeteilt nach Bereichen wie Bio und Cyber in bestehende Teams. Es ist die jüngste Umstrukturierung in einem Unternehmen, das auf einen vermutlich riesigen Börsengang zusteuert und seine ursprünglich sicherheitslastige Struktur Schritt für Schritt zurückbaut.
Nauti's Take
Die Chance liegt in der Integration: Sicherheitsarbeit direkt in den Fachteams für Bio und Cyber kann schneller wirken als ein separates Gremium, das nebenher prüft. Das Risiko ist der fehlende Gegenpol, denn ein eigenständiges Team kann unbequeme Ergebnisse gegen Produktdruck verteidigen, verteilte Verantwortung selten.
Wer auf OpenAI-Modelle baut, sollte künftig genauer auf veröffentlichte Risikoberichte achten als auf Organigramme.
Quellen
