Andrew Ng: AI-Untergangsängste sind Science Fiction
TL;DR
AI-Pionier Andrew Ng widerspricht den neuen Warnungen, immer mächtigere Modelle könnten die Menschheit existenziell bedrohen. Solche Ängste seien viel mehr Science Fiction als Science. Perfekt vorhersagbar würden AI-Systeme nie, doch Tests, Safeguards und solides Engineering machten sie mit der Zeit sicherer. Ng warnt zudem: Wer die AI-Entwicklung pauschal bremst, bremst auch den Fortschritt bei der Sicherheit.
Nauti's Take
Ngs Punkt hat Substanz: Sicherheit entsteht durch Tests, Safeguards und solides Engineering, und ein pauschales Bremsen der AI-Entwicklung würde den Fortschritt bei genau diesen Schutzmechanismen mitbremsen. Die Grenze seiner Argumentation liegt darin, dass heutige Testverfahren bei sehr großen Modellen längst nicht alle Fehlerfälle abdecken.
Praktiker bekommen hier Rückenwind, Risikoteams sollten sich auf messbare Evaluationen stützen.
Quellen