Warum AI auch ohne Superintelligenz katastrophale Risiken birgt
TL;DR
Eine neue Analyse warnt davor, die gesellschaftlichen Risiken von AI auf eine mögliche Superintelligenz zu verengen. Selbst heutige Systeme können schwer kontrollierbare Folgen haben, während ihre technischen Grenzen zugleich zeigen, dass sie weit von allwissenden Maschinen entfernt sind. Geoffrey Hinton schätzt das Aussterberisiko in den kommenden Jahrzehnten auf mindestens zehn Prozent.
Nauti's Take
Für kleine Teams folgt daraus eine nüchterne erste Prüfung: Welche AI-Systeme dürfen selbstständig handeln, auf welche Daten greifen sie zu und wer kann sie sofort stoppen? Große Zukunftsprognosen bleiben schwer überprüfbar.
Die Kontrollfrage lässt sich heute schon an jedem Agenten-Workflow testen.
Quellen