Reasoning-Modelle lassen sich zum teuren Überdenken bringen
TL;DR
Forscher von Zhejiang University und Alibaba haben eine Prompt-Attacke gezeigt, die Reasoning-Modelle in lange, nutzlose Denkschleifen schickt. Der Trick: Prompts werden logisch beschädigt. Modelle versuchen dann, unlösbare Aufgaben trotzdem sauber zu lösen, statt früh abzubrechen. Getestet wurden unter anderem DeepSeek-R1, Qwen3-Thinking, OpenAI o3 und Gemini 2.5 Flash. In einem Math-Benchmark wurden Antworten bis zu 26,1-mal länger.
Nauti's Take
Der unbequeme Punkt: Viele AI-Setups messen noch, ob ein Modell die richtige Antwort findet. Sie messen seltener, wie schnell es merkt, dass es keine Antwort geben kann.
Genau dort wird Reasoning teuer. Wer Agents oder Coding-Assistenten in produktive Workflows lässt, sollte nicht nur Output-Qualität testen, sondern Abbruchregeln, Token-Limits, Rate Limits und Monitoring für ungewöhnlich lange Denkpfade einbauen.
Einordnunganzeigen
Reasoning ist der Grund, warum moderne Modelle bei Code, Mathe und Planung besser wirken. Genau diese Stärke wird hier zur Angriffsfläche: Ein Prompt muss nicht Daten stehlen, um Schaden anzurichten. Es reicht, das Modell teuer, langsam und beschäftigt zu machen.
Für Teams heißt das: Prompt-Sicherheit betrifft auch Kostenkontrolle und Verfügbarkeit.
Quellen