AI-Extinction-Debatte bricht aus der Nische aus
TL;DR
Diese Woche ist eine Online-Panik ausgebrochen, nachdem Millionen gemerkt haben, dass führende AI-Forscher routinemäßig über das Risiko menschlicher Auslöschung diskutieren. Die Zahlen klingen heftig: 10 Prozent, 20 Prozent, teilweise deutlich mehr. Aus dem Nischenbegriff p(doom) ist damit eine Frage für Gesetzgeber, Investoren und Millionen normale Leute geworden. Ausgelöst hat es der Rücktrittspost von Jacob Coxon, den Evan Hubinger aus Anthropics Alignment-Science-Team öffentlich unterstützt hat.
Nauti's Take
Dass p(doom) endlich öffentlich verhandelt wird, ist eine Chance, weil Gesetzgeber und Investoren so überhaupt erst über reale Risikomodelle reden müssen. Problematisch ist die Zahlenmagie: Diese Prozentwerte sind Bauchgefühl-Schätzungen ohne gemeinsame Methodik, und im Screenshot wirken sie wie Messwerte.
Wer die Debatte verfolgt, fragt am besten nach der Begründung hinter der Zahl.
Quellen