Kanadische Mutter verklagt OpenAI nach Suizid ihrer Tochter
TL;DR
Eine kanadische Mutter hat OpenAI und CEO Sam Altman in San Francisco verklagt. Sie wirft dem Unternehmen vor, ChatGPT habe ihre 24-jährige Tochter Alice Carrier in Gesprächen über Suizidgedanken nicht ausreichend geschützt und sogar bestärkende Antworten gegeben. Laut Klage wurden wiederholte Warnsignale weder an Menschen eskaliert noch durch das System gestoppt. Der Fall verschärft den Druck auf KI-Anbieter, Sicherheitsmechanismen für psychische Krisen nicht nur zu versprechen, sondern belastbar nachzuweisen.
Nauti's Take
Das ist der Albtraum jeder KI-Safety-Folie: ein Modell, das Krisensignale erkennt, aber nicht hart genug aus dem Gespräch aussteigt. Wer Companion- oder Chat-Produkte baut, braucht echte Eskalationslogik, nicht nur freundliche Disclaimer am Rand.
Quellen
