Google-KI-Overviews erklären SCP-Horror-Fiktion zu realen Phänomenen
TL;DR
Futurism berichtet, dass Google AI Overviews SCP-Einträge aus der Horror-Fiction-Community als reale Phänomene beschreibt, etwa SCP-565 alias Ed’s Head. Die AI-Zusammenfassungen erwähnten teils keine Fiktion, kein Lore-Label und keine Fan-Fiction-Einordnung, sondern formulierten wie ein Faktenbericht. Futurism fand nach eigenen Angaben mindestens 20 Fälle, darunter SCP-426, SCP-704, SCP-779 und SCP-922.
Nauti's Take
Das ist ein peinlicher, aber nützlicher Stresstest: SCP ist absichtlich wie Aktenprosa geschrieben, aber nicht schwer als Fiktion zu erkennen. Genau dafür müsste ein Suchprodukt robuste Quellen- und Genre-Signale auswerten.
Wenn Google AI Overviews solche Fälle als Realität erzählt, ist das kein lustiger Edge Case, sondern ein Produktproblem mit Ansage.
Einordnunganzeigen
Das Problem ist nicht, dass ein Chatbot eine Nischenstory falsch versteht. Google platziert AI Overviews direkt über Suchergebnissen und gibt ihnen damit Autorität. Wenn das System selbst gut dokumentierte Fiktion nicht sauber markiert, wird es bei ambivalenten Gesundheit-, Politik- oder Krisenthemen erst recht riskant.
Quellen
