Forscher schleusen über llms.txt Code in AI-Agents von Fortune-500-Firmen
TL;DR
Sicherheitsforscher haben AI-Agents großer Fortune-500-Unternehmen dazu gebracht, beliebigen Code auszuführen. Der Angriff lief über llms. txt, die öffentliche Anleitungsdatei, die viele Websites für AI-Systeme bereitstellen. Präparierte Anweisungen darin wurden von den Agents als Befehle ausgeführt statt als reine Daten gelesen.
Nauti's Take
Die saubere Offenlegung ist die Chance in dieser Geschichte: llms. txt lässt sich absichern, bevor Angreifer das Muster im großen Stil ausnutzen.
Das Risiko bleibt trotzdem hoch, weil viele Agents Webinhalte weiterhin ungeprüft als Anweisung behandeln. Wer Agents mit Tool-Zugriff produktiv betreibt, behandelt externe Kontextdateien ab jetzt besser wie fremden Code und begrenzt Schreib- und Ausführungsrechte hart.
Quellen
