Reasoning-Modelle lassen sich in teure Denkschleifen locken
TL;DR
Forscher von Zhejiang University und Alibaba zeigen auf der ICML 2026 eine Angriffsklasse gegen Reasoning-Modelle: logisch widersprüchliche Prompts bringen Modelle ins lange Grübeln. Der Angriff nutzt einen evolutionären Algorithmus, der Matheaufgaben kaputtmischt, etwa durch vertauschte Prämissen, gelöschte Annahmen oder fremde Schlussfragen.
Nauti's Take
Der unangenehme Punkt: Viele AI-Setups behandeln lange Reasoning-Ketten noch als Qualitätsmerkmal. Für Produktivsysteme ist das zu naiv.
Wenn ein Prompt ein Modell minutenlang in einer unlösbaren Aufgabe festnageln kann, brauchst du Budgets, Timeouts, Abbruchregeln und Monitoring pro Anfrage. Sonst wird aus klugerem Denken schnell eine teurere Warteschlange.
Einordnunganzeigen
Reasoning wird oft als Upgrade verkauft, weil Modelle damit besser coden, rechnen und planen. Die Studie zeigt die Schattenseite: Genau dieser Denkmodus lässt sich als Kosten- und Lasthebel missbrauchen. Für Teams mit AI-Agenten wird Sicherheit damit nicht nur zur Frage, was ein Modell ausgibt, sondern auch, wie lange es denken darf.
Quellen