Anthropic-Forscher warnt vor mehr als zehn Prozent Risiko für das Aussterben der Menschheit
TL;DR
Ein leitender Anthropic-Forscher schätzt die Wahrscheinlichkeit, dass AI in den kommenden zehn Jahren alle Menschen töten könnte, auf mehr als zehn Prozent. Laut Vox fällt diese Warnung in eine Phase, in der Berichte über von AI initiierte Cyberangriffe neue Forderungen nach einer Verlangsamung der Entwicklung auslösen. Anthropic und OpenAI haben solche Forderungen inzwischen unterstützt.
Nauti's Take
Dass ein leitender Forscher eine Zahl nennt, hat einen echten Nutzen: Risikoabschätzungen werden dadurch überprüfbar und lassen sich gegen andere Szenarien stellen. Die Grenze ist die Belastbarkeit, denn zur Methodik hinter den zehn Prozent liefert der Vox-Bericht wenig, und die Szenarien gehen weit auseinander.
Als Governance-Signal taugt die Schätzung, für neue Sicherheitsbudgets reicht sie noch nicht.
Quellen