Logikfallen treiben Reasoning-Modelle in längere Rechenwege
TL;DR
Forscher der Zhejiang University und Alibaba zeigen, dass logisch widersprüchliche Prompts das interne Denken von Reasoning-Modellen stark verlängern können. Ihr Angriff verändert Matheaufgaben per evolutionärem Algorithmus, etwa durch vertauschte, gelöschte oder zusätzliche Prämissen, und zielt auf längere Antworten statt auf falsche Lösungen. Getestet wurden DeepSeek-R1, Qwen3-Thinking, OpenAI GPT-o3 und Gemini 2.5 Flash; in einem Benchmark wurden Antworten bis zu 26-mal länger.
Nauti's Take
Wer Reasoning-Modelle in Agenten oder Support-Flows steckt, sollte Kostenlimits pro Anfrage und maximale Denk- oder Outputlängen separat testen. Die Studie klingt plausibel, bleibt aber ein Laborbefund: Entscheidend ist, ob deine API-Schicht widersprüchliche Eingaben früh abbricht und ob Monitoring Token-Spikes pro Nutzer erkennt.
Einordnunganzeigen
Reasoning-Modelle kosten nicht nur beim Training, sondern bei jeder langen Denkspur. Wenn Angreifer Prompts bauen können, die Modelle in nutzlose Schleifen treiben, wird Inferenz selbst zur Angriffsfläche. Für Anbieter heißt das: Safety-Filter reichen nicht, sie müssen auch Denkzeit, Antwortlänge und logische Unlösbarkeit erkennen.
Quellen