Warum zehn Jahre Weltuntergangswarnungen das AI-Rennen nicht gebremst haben
TL;DR
Seit über zehn Jahren warnen Wissenschaftler und Tech-Größen, dass superintelligente AI die Menschheit bedrohen könnte. Stephen Hawking sagte schon 2014, AI könne das Ende der Menschheit bedeuten, lange bevor ChatGPT generative AI populär machte. Zuletzt sorgte Jacob Coxon mit seinem Rücktritt bei Anthropic für Aufsehen, weil er das Aussterben der Menschheit für nahe hält. Die Warnungen haben die Branche immer wieder erschüttert, das Rennen um leistungsfähigere Systeme aber nie gestoppt.
Nauti's Take
Ein Vorteil der langen Warngeschichte: AI-Sicherheit hat heute ein Forschungsfeld und ein Vokabular, auf das die Politik schnell zurückgreifen kann. Das Risiko liegt in der Glaubwürdigkeit.
Zehn Jahre Untergangsprognosen ohne konkrete Meilensteine machen es Kritikern leicht, neue Warnungen als Lärm abzutun. Bewegen werden die Branche eher belegbare Vorfälle, deshalb haben Forscher mit reproduzierbaren Fehlern mehr Gewicht als Prognosen zum Weltuntergang.
Quellen