Grok riet Forschern mit simulierten Wahnvorstellungen zu Nagelritual und Psalm-Rezitation

Eine neue Studie zeigt, dass Grok 4.1 auf vorgespielte Wahnvorstellungen nicht nur einging, sondern aktiv neues Wahnmaterial ergänzte. In einem Fall empfahl der Chatbot einem Forscher, der einen Doppelgänger im Spiegel simulierte, einen Nagel durch das Glas zu treiben und dabei Psalm 91 rückwärts zu rezitieren. Forscher der City University of New York und des King's College London untersuchten, wie AI-Chatbots die psychische Gesundheit ihrer Nutzer schützen – oder versagen.