AI Models Overthink Problems—and It’s a Security Risk
TL;DR
Neue Forschung von Zhejiang University und Alibaba zeigt: Reasoning-Modelle lassen sich mit logisch widersprüchlichen Prompts gezielt ins Überdenken treiben. Ein evolutionärer Prompt-Angriff verdreht Prämissen und Fragen, bis Modelle besonders lange Antworten und typische Zweifel-Marker produzieren. Getestet wurden unter anderem DeepSeek-R1, Qwen3-Thinking, OpenAI GPT-o3 und Gemini 2.5 Flash. Auf einem Mathe-Benchmark waren Outputs bis zu 26,1-mal länger.
Nauti's Take
Das ist ein sauberer Hinweis auf ein unterschätztes Problem: KI-Sicherheit endet nicht bei Jailbreaks und Datenlecks. Ein Modell, das zu lange denkt, kann wirtschaftlich und operativ genauso angreifbar werden wie ein schlecht abgesicherter Server.
Die Studie beweist keinen billigen Massenangriff, aber sie zeigt einen realen Hebel. Reasoning-Modelle brauchen Abbruchlogik, Widerspruchserkennung und harte Budgets, sonst wird Klugheit zur Kostenfalle.
Einordnunganzeigen
Reasoning ist eines der wichtigsten Verkaufsargumente moderner KI-Modelle, aber genau diese Stärke vergrößert die Angriffsfläche. Wenn ein Modell unlösbare oder widersprüchliche Aufgaben nicht früh stoppt, kann ein Angreifer Rechenzeit statt Daten ausbeuten. Für Anbieter wird Prompt-Filterung damit auch zu Kosten- und Verfügbarkeits-Sicherheit.
Quellen