AI-Forscher warnen in Videos vor einem möglichen Aussterben der Menschheit
TL;DR
Mehrere aktuelle und frühere Mitarbeiter von OpenAI, Google DeepMind und Anthropic warnen in einer neuen Interviewreihe vor den möglichen Risiken einer künftigen Superintelligenz. Geoffrey Irving schätzt die Wahrscheinlichkeit einer menschlichen Auslöschung auf etwa 50 Prozent, Google-DeepMind-Forscher Neel Nanda nennt mindestens zehn Prozent. Die Interviews wurden von der Nonprofit-Organisation Palisade Research gesammelt und auf frominside. ai veröffentlicht.
Nauti's Take
Für AI-Teams ist die Quelle zuerst ein Prüfauftrag: Wer wurde wie ausgewählt, welche Definition von Superintelligenz liegt zugrunde und welche Evidenz stützt die Prozentzahlen? Die Interviews eignen sich als Signal für wachsende Besorgnis unter Forschern, sollten aber keine Sicherheitsentscheidungen, Budgets oder Produktstopps allein auslösen.
Quellen