Googles KI-Übersichten verkaufen SCP-Horrorfiktion als Realität
TL;DR
Futurism fand, dass Google AI Overviews mehrere SCP-Einträge als reale Phänomene beschreibt, obwohl die SCP Foundation ein kollaboratives Horror-Fiction-Universum ist. Ein Beispiel: SCP-565, „Ed’s Head“, wurde als angebliche Unterwasser-Anomalie mit Forensik, DNA-Spuren und sicherer Verwahrung in einer Foundation-Anlage dargestellt. Auch SCP-426, der fiktive Toaster, brachte Google offenbar dazu, in der ersten Person über sich selbst zu schreiben und erfundene Opfergeschichten wie Fakten zu behandeln.
Nauti's Take
Das ist ein witziger Screenshot und ein schlechtes Signal zugleich. Google behandelt hier Texte, die absichtlich wie Behördenakten geschrieben sind, als wären sie Behördenakten.
Genau diese Stilfalle war vorhersehbar: SCP lebt davon, Fiktion im Ton von Dokumentation zu erzählen. Wenn AI-Suche solche Rollenprosa nicht erkennt, gehört der große Antwortkasten bei Grenzfällen abgeschaltet oder mit einem harten Fiktionshinweis versehen.
Einordnunganzeigen
Das Problem ist nicht nur ein lustiger Halluzinationsfehler. Google setzt AI Overviews direkt an die Stelle, an der Nutzer Orientierung erwarten, auch Kinder oder Menschen, die verstörende Begriffe aus Social Media prüfen. Wenn die Suchmaschine Fiktion im Ton amtlicher Fakten wiedergibt, wird aus schlechter Zusammenfassung ein Vertrauensproblem für die ganze AI-Suche.
Quellen
