Wenn Safety-Leute kündigen, um AI-Labore zu warnen, wird es institutionell gefährlich
TL;DR
Ein aktueller Guardian-Kommentar warnt vor einem wiederkehrenden Muster in führenden AI-Laboren: Safety-Forschende und Ingenieure verlassen ihre Unternehmen öffentlich, weil kommerzieller Druck aus ihrer Sicht Sicherheitsvorkehrungen verdrängt. Genannt werden frühere Abgänge bei OpenAI und Anthropic sowie scharfe Warnungen vor den möglichen Folgen. Der Beitrag stellt die Unternehmenskultur und Machtverteilung in AI-Firmen grundsätzlich infrage.
Nauti's Take
Für kleine Teams ist die erste Prüfung organisatorisch: Wer darf ein AI-System stoppen, wenn Umsatz, Launch-Termin oder Kundenanforderungen dagegen sprechen? Halte diese Zuständigkeit schriftlich fest und teste sie an einem konkreten Ausfallfall.
Eine Safety-Richtlinie ohne unabhängige Stopprechte ist vor allem ein Versprechen.