Anthropic-Forscher: AI könnte die Menschheit bis 2030 auslöschen
TL;DR
Drei Forscher des AI-Konzerns Anthropic halten es für möglich, dass AI die Menschheit noch in diesem Jahrzehnt auslöscht. Einer von ihnen hat aus Protest gekündigt und seine Einschätzung am Dienstag öffentlich auf Social Media geteilt. Er wirft Anthropic und seinem früheren Arbeitgeber OpenAI vor, die Gefahr zu ignorieren oder bestenfalls schlecht zu adressieren. Ohne Regulierung, so sein Argument, teile ein großer Teil der Branche diese Sorge.
Nauti's Take
Öffentliche Risikoeinschätzungen von aktiven Lab-Mitarbeitern sind eine Chance für Politik und Regulierung, weil solche Einschätzungen sonst nur intern kursieren. Kritisch bleibt die Beweislage: Drei Stimmen aus einem Unternehmen, verbreitet über Social-Media-Posts, ergeben noch keine belastbare Prognose, und eine Jahreszahl wie 2030 suggeriert eine Präzision, die niemand liefern kann.
Wer AI beruflich einsetzt, zieht daraus keine Handlungsanweisung, wohl aber ein Argument für dokumentierte Grenzen beim Einsatz autonomer Systeme.
Video
Quellen