Helen Toner: AI-Chefs sind weiterhin nicht vertrauenswürdig
TL;DR
Helen Toner spricht über ihre Zeit im OpenAI-Verwaltungsrat und die Entscheidung, Sam Altman im November 2023 abzusetzen. Der Verwaltungsrat der gemeinnützigen OpenAI-Struktur sollte sicherstellen, dass Sicherheitsziele Vorrang vor Profit und Wachstum behalten. Altman kehrte zurück, Toner trat zurück und OpenAI wurde anschließend grundlegend umgebaut. Der Fall zeigt, wie schwer sich interne Kontrollmechanismen durchsetzen lassen, sobald ein AI-Unternehmen strategisch und wirtschaftlich stark gewachsen ist.
Nauti's Take
Für Teams, die AI-Produkte einsetzen, bleibt Governance eine praktische Prüfaufgabe: Wer kann einen Anbieter tatsächlich stoppen, wenn Sicherheitsversprechen und Geschäftsinteressen kollidieren? Prüfe vor einer kritischen Integration Vertragsklauseln, Datenkontrollen, Modellwechsel und einen realistischen Ausstiegsweg.
Ein prominenter Beirat allein belegt noch keine belastbare Aufsicht.
Video
Quellen