AI-Reasoning-Modelle lassen sich in lange Denkschleifen treiben
TL;DR
Forscher von Zhejiang University und Alibaba zeigen auf der ICML 2026, dass Reasoning-Modelle durch logisch widersprüchliche Prompts zum Überdenken gebracht werden können. Ein evolutionärer Prompt-Angriff verdreht Prämissen und Fragen aus Matheaufgaben so, dass Modelle lange, nutzlose Gedankenschleifen produzieren. Getestet wurden unter anderem DeepSeek-R1, Qwen3-Thinking, OpenAI GPT-o3 und Gemini 2.5 Flash; einzelne Ausgaben wurden bis zu 26,1-mal länger als normal.
Nauti's Take
Das ist ein gutes Beispiel dafür, wie aus einem Produktfeature plötzlich Infrastruktur-Risiko wird. Längeres Denken wirkt im Demo-Video beeindruckend, aber im Betrieb ist jede zusätzliche Token-Schleife eine Kosten- und Lastfrage.
Anbieter werden harte Stop-Regeln, bessere Unlösbarkeits-Erkennung und Abuse-Monitoring brauchen. Sonst wird Reasoning nicht nur schlauer, sondern auch leichter auszubremsen.
Einordnunganzeigen
Reasoning ist das Verkaufsargument moderner KI-Modelle, aber genau diese Stärke erweitert auch die Angriffsfläche. Wenn ein Modell nicht sauber erkennt, dass ein Problem unlösbar oder widersprüchlich ist, kann es Rechenzeit in scheinbar kluge Schleifen verbrennen. Für Anbieter heißt das: Sicherheit muss nicht nur falsche Inhalte filtern, sondern auch unnötige Denkzeit begrenzen.
Quellen