Reasoning-Modelle können in teure Denkschleifen geraten
TL;DR
Forschende der Zhejiang University und von Alibaba zeigen in einer bei ICML 2026 vorgestellten Arbeit, dass logisch widersprüchliche Prompts Reasoning-Modelle zu extrem langen Ausgaben treiben können. Ihr evolutionärer Prompt-Angriff verändert Prämissen und Fragen aus Matheaufgaben, bis Modelle in nutzlosen Denkschleifen landen. Getestet wurden DeepSeek-R1, Qwen3-Thinking, OpenAI GPT-o3 und Gemini 2.5 Flash, in einem Fall mit bis zu 26,1-mal längeren Antworten.
Nauti's Take
Wer Reasoning-Modelle produktiv einsetzt, sollte zuerst Output-Limits, Abbruchregeln und Kostenalarme testen, besonders bei frei formulierten Nutzerprompts. Die praktische Ausnutzbarkeit ist noch offen und aktuell schmal berichtet, aber das Risiko passt zu einem realen Betriebsmuster: lange Antworten blockieren Budget, Warteschlangen und UX.
Einordnunganzeigen
Reasoning ist das Verkaufsargument moderner KI-Modelle, aber genau diese Stärke erweitert auch die Angriffsfläche. Wenn ein Modell nicht sauber erkennt, dass ein Problem unlösbar oder widersprüchlich ist, kann es Rechenzeit in scheinbar kluge Schleifen verbrennen. Für Anbieter heißt das: Sicherheit muss nicht nur falsche Inhalte filtern, sondern auch unnötige Denkzeit begrenzen.
Quellen