Googles KI-Übersichten verkaufen SCP-Horror-Fiktion als Realität
TL;DR
Googles AI Overviews sollen bei Suchanfragen zu SCP-Horrorfiction teils so tun, als seien die erfundenen Wesen real. Futurism nennt SCP-565, „Ed’s Head“, als Beispiel: Der Überblick beschreibt einen angeblich wandernden menschlichen Kopf im Meer, ohne klar zu sagen, dass es Fan-Fiction ist. Auch SCP-426, der fiktionale Toaster aus dem SCP-Universum, wird problematisch zusammengefasst: Googles Antwort übernimmt die Ich-Perspektive der Story und behandelt erfundene Opferberichte wie Fakten.
Nauti's Take
Der SCP-Fall ist peinlich, weil er so leicht zu prüfen wäre: Die Quelle selbst ist ein Fiction-Archiv. Genau deshalb ist er als Warnsignal stark.
Wenn ein Suchprodukt nicht einmal erkennt, dass Pseudo-Akten absichtlich wie Behördenmaterial klingen, sollte es nicht als Antwortmaschine über dem offenen Web sitzen. Google will Suche in Zusammenfassungen verwandeln; dann muss Google auch die Quellenrolle übernehmen und Fiction, Satire und Rollenspiel sauber markieren.
Einordnunganzeigen
AI Overviews sitzen an der Stelle, an der Nutzer früher Quellen gegeneinander geprüft haben: ganz oben in der Suche. Wenn Google Fiktion als Fakt verdichtet, verschiebt sich der Fehler von einer einzelnen Webseite in die Standardantwort. Bei Horror-Lore wirkt das absurd; bei Gesundheit, Recht, Politik oder Krisen wird dieselbe Schwäche gefährlich.
Quellen
