Weitere Anthropic-Forscher warnen vor AI-Risiken, Musk spricht von Psyop
TL;DR
Einen Tag nach dem öffentlichen Rücktritt des Anthropic-Forschers Jacob Coxon, der vor einer Auslöschung der Menschheit durch AI bis 2030 warnt, stellen sich weitere Forschende und Mitarbeitende des Unternehmens öffentlich hinter ihn. Coxon fordert eine Abstimmung zwischen den AI-Labs und einen vorübergehenden Stopp bei neuen Modellfähigkeiten. Elon Musk und andere konservative Stimmen auf X halten dagegen und bezeichnen die Warnungen als abgekartetes Spiel und Psyop.
Nauti's Take
Dass Forschende offen über Risiken sprechen, ist ein Fortschritt für die Debatte, weil so interne Einschätzungen der Labs sichtbar werden, die sonst hinter Verschwiegenheitsklauseln bleiben. Die Herausforderung liegt in der Polarisierung: Wenn Warnungen reflexhaft als Psyop abgetan werden, geht die Sachfrage nach überprüfbaren Sicherheitsstandards unter.
Wir halten es für sinnvoll, die konkreten Forderungen nach Koordination zwischen den Labs ernsthaft zu prüfen, statt Lager zu bilden.
Quellen