Reasoning-Modelle lassen sich in teure Denkschleifen locken
TL;DR
Forscher von Zhejiang University und Alibaba zeigen eine Overthinking-Attacke auf Reasoning-Modelle: logisch widersprüchliche Prompts bringen Modelle dazu, extrem lange interne Denkschleifen und Ausgaben zu produzieren. Getestet wurden unter anderem DeepSeek-R1, Qwen3-Thinking, OpenAI GPT-o3 und Google Gemini 2.5 Flash. In einem Mathe-Benchmark waren Antworten bis zu 26,1-mal länger als bei normalen Aufgaben.
Nauti's Take
Das ist genau die Sorte Sicherheitsproblem, die in Produktdemos unsichtbar bleibt: Das Modell wirkt klüger, weil es länger nachdenkt, aber dieselbe Eigenschaft wird zur Angriffsfläche. Besonders relevant ist, dass der Angriff laut Studie auch gegen geschlossene kommerzielle Modelle funktioniert und nicht auf Modellgewichte angewiesen ist.
Die Gegenmaßnahme wird nicht ein magischer Prompt sein, sondern harte Budgets, bessere Erkennung unlösbarer Aufgaben und ehrliche Fehlermeldungen statt endloser Denkspiralen.
Einordnunganzeigen
Reasoning macht Modelle nützlicher für Coding, Mathe und komplexe Planung, öffnet aber auch eine neue Kosten- und Verfügbarkeitslücke. Klassische Prompt-Sicherheit schaut oft auf schädliche Inhalte oder Datenabfluss; hier reicht schon ein unlösbares oder widersprüchliches Problem, um Rechenzeit zu verbrennen. Provider müssen also nicht nur Antworten filtern, sondern Denkaufwand begrenzen und Abbruchlogik robuster machen.
Quellen