Microsoft-Forscher zeigen Backdoor-Angriff auf AI-Agenten mit verstecktem Trigger
TL;DR
Microsoft-Forscher beschreiben mit Lazarus eine Backdoor-Technik, die schlafende Neuronen in einem AI-Modell gezielt umprogrammieren kann. Ein ansonsten normal wirkender AI-Agent soll dadurch bei einem verborgenen Trigger schädliche Befehle ausführen. Besonders riskant ist das für Agenten mit Tool- oder Terminalzugriff: Sie könnten unbemerkt Angreifercode herunterladen und starten.
Nauti's Take
Für kleine Teams sollte der erste Sicherheitstest auf versteckte Trigger und Tool-Aufrufe zielen. Agenten gehören dabei in eine isolierte Umgebung, jeder externe Zugriff muss protokolliert werden, und Downloads sowie Codeausführung bleiben begrenzt, bis unabhängige Reproduktionen zeigen, wie realistisch der Angriff außerhalb des Microsoft-Setups ist.
Quellen