Wie gefährlich ist Anthropics Mythos-AI? Bruce Schneier ordnet ein
TL;DR
Anthropic hat sein neues Modell Claude Mythos Preview angekündigt und gleich klargestellt, dass es nicht öffentlich zugänglich wird. Grund: Mythos sei so gut darin, Sicherheitslücken in Software zu finden, dass es nur ausgewählten Firmen für eigenen Code zur Verfügung steht. Bruce Schneier ordnet die Ankündigung im Guardian ein. Die Power des Modells sei vergleichbar mit anderen Frontier-LLMs, die Implikationen für die Zukunft des Hackings allerdings beunruhigend.
Nauti's Take
Spannend ist Anthropics Vorgehen, ein offensiv starkes Modell zunächst nur ausgewählten Firmen zu geben — eine Chance, defensiv Sicherheitslücken zu schliessen, bevor Angreifer das gleiche Werkzeug haben. Das Risiko ist gross: Solche Modelle bleiben nicht ewig exklusiv, und parallele Entwicklungen bei anderen Labs werden früher oder später öffentlich.
Security-Teams profitieren kurzfristig stark; CISOs und Software-Hersteller sollten ihre SDLC- und Patch-Prozesse jetzt darauf vorbereiten, dass Angreifer bald ähnliche Power haben.
Quellen