Googles AI Search ist so kaputt, dass sie deine Anfrage „ignorieren“ kann
TL;DR
Suche bei Google nach dem Wort „disregard“ — und statt einer AI Overview bekommst du eine Chatbot-Antwort wie „Got it! Let me know if you need help with anything else. “ The Verge dokumentiert mehrere Fälle, in denen Googles AI Overviews den Suchbegriff offenbar als Anweisung an das Modell interpretiert und nicht als Query. Ein klassischer Prompt-Injection-Effekt, eingebaut ins Such-Frontend von Google.
Nauti's Take
Spannend ist, wie öffentliche Stress-Tests Schwächen von Big-Tech-AI sichtbar machen — Nutzer:innen werden zur effektivsten QA-Schicht. Haken: Google liefert AI Overviews an Milliarden Suchen aus, und die Guardrails wirken offensichtlich dünner als der Markt glaubt.
Wer auf Google-Antworten beruflich vertraut, sollte zentrale Recherchen weiter doppelt prüfen — die Prompt-Injection-Lücke ist real und nicht nur ein Edge-Case.
Quellen