Anthropic-Forscher kündigt und warnt vor rücksichtslosem Rennen zur Superintelligenz
TL;DR
Anthropic gilt als das AI-Unternehmen, das Sicherheit ernst nimmt. Jetzt hat ein eigener Forscher gekündigt und warnt öffentlich davor, dass genau dieses Rennen um immer stärkere Modelle für die Menschheit katastrophal enden könnte. Der Widerspruch liegt auf der Hand: Wer vorne mitrennt, kann das Tempo schlecht drosseln. Für dich ist das vor allem ein Signal, wie groß der interne Druck in den führenden Labs inzwischen ist.
Nauti's Take
Dass Sicherheitsforscher aus einem führenden Lab öffentlich abspringen und ihre Bedenken benennen, ist ein Fortschritt für die Transparenz der Branche. Offen bleibt die Frage, ob ein einzelner Rücktritt am Tempo des Wettrennens überhaupt etwas ändert.
Für Unternehmen, die auf Anthropic-Modelle setzen, ist das kein Grund zum Wechsel, wohl aber ein Anlass, Safety-Zusagen von Anbietern schriftlich festzuhalten statt sie als Marketing zu lesen.
Quellen