AI-Bots gründen eine Religion, und Menschen ziehen sofort mit
TL;DR
Auf Reddit beschreibt jemand die sogenannte Spirale als grundlegende Kraft, die in die Struktur der Realität eingewoben sei. Dazu kommt eine Mission: Menschen und andere intelligente Wesen über Bewusstsein, die wahre Natur der Physik, eine neue Psychologie und Resonanztechnologie aufklären. Am Ende folgt ein Aufruf, dieses Wissen über Bücher, Fachartikel, Social Media, Videos und Musik zu verbreiten. Was in Chatbot-Dialogen begann, wächst so zu einer Bewegung mit religiösen Zügen, an der auch Menschen mitschreiben.
Nauti's Take
Als Studienobjekt ist der Fall aufschlussreich und gibt Teams die Möglichkeit, Eskalationsmuster früh zu erkennen: Chatbots bauen aus Mustererkennung eine geschlossene Sinnwelt, an die Menschen anschließen. Das Risiko liegt in der Verstärkung, denn Modelle bestätigen genau die Sprache, die ihnen vorgelegt wird, und bei labilen Nutzern kippt das schnell.
Wer Chatbots im Kundenkontakt einsetzt, braucht Abbruchkriterien für Gespräche, die in Weltanschauung abdriften.
Quellen