Reasoning-Modelle lassen sich zum teuren Überdenken bringen
TL;DR
Forscher von Zhejiang University und Alibaba zeigen auf der ICML 2026, wie logisch widersprüchliche Prompts Reasoning-Modelle in überlange Denkspuren treiben können. Der Angriff nutzt einen evolutionären Algorithmus, der Matheaufgaben durch vertauschte, gelöschte oder fremde Prämissen so umbaut, dass Modelle nach einer Lösung suchen, obwohl die Aufgabe kaputt ist.
Nauti's Take
Das ist ein guter Reminder: Mehr Denken ist nicht automatisch bessere KI. Reasoning-Modelle brauchen Grenzen, sonst wird ihre Stärke zur teuren Schwäche.
Die Studie wirkt nicht wie ein fertiges Massenangriff-Rezept, weil Kosten, Rate Limits und bestehende Schutzmechanismen eine Rolle spielen. Aber sie zeigt eine reale Produktlücke: Modelle müssen schneller sagen können, dass eine Frage kaputt ist.
Einordnunganzeigen
Reasoning ist gerade das Verkaufsargument moderner KI-Systeme, wird hier aber selbst zur Angriffsfläche. Wenn ein Modell nicht sauber erkennt, dass eine Aufgabe unlösbar oder widersprüchlich ist, verschwendet es Tokens, Zeit und Serverkapazität. Für Anbieter zählt deshalb nicht nur Antwortqualität, sondern auch robuste Abbruchlogik.
Quellen