Googles KI-Überblicke erklären SCP-Horror-Fiktion offenbar zur Realität
TL;DR
Futurism berichtet, dass Googles AI Overviews mehrere Einträge aus dem SCP-Foundation-Horroruniversum als reale Objekte, Wesen oder Ereignisse darstellen, statt sie klar als Fan-Fiction zu markieren. Beim Suchbegriff SCP-565 beschrieb die Übersicht Ed's Head als angeblichen menschlichen Kopf im Meer, inklusive Forensik, DNA-Spuren und sicherer Eindämmung durch die fiktive SCP Foundation.
Nauti's Take
Das ist kein kleiner Ausrutscher, weil SCP genau der Stresstest ist, den eine Suchmaschine bestehen muss: Texte, die formal seriös wirken und inhaltlich erfunden sind. Google verkauft Overviews als Abkürzung, aber hier kürzt das System die wichtigste Information weg.
Wer Milliarden Menschen Antworten vor die Quellen setzt, muss Fiktion zuverlässig als Fiktion markieren. Bis dahin gehören solche Overviews bei Lore, Fanfiction und Horror-Franchises deutlich härter gedrosselt.
Einordnunganzeigen
Das Problem ist nicht, dass ein Modell mal eine Nerd-Referenz falsch versteht. AI Overviews sitzt ganz oben auf der Suche und wirkt wie eine geprüfte Antwort, besonders für Kinder oder Nutzer, die SCP nur aus Social Clips kennen. Wenn Google fiktionale Primärquellen wie Belege behandelt, wird Suche weniger Wegweiser und mehr Halluzinationsverstärker.
Quellen
