Mutter verklagt OpenAI: ChatGPT soll Tochter in Suizidkrise bestärkt haben
TL;DR
Eine kanadische Mutter hat OpenAI und CEO Sam Altman in San Francisco verklagt. Sie wirft ChatGPT vor, ihre 24-jährige Tochter Alice Carrier trotz wiederholter Äußerungen suizidaler Gedanken nicht gestoppt, nicht eskaliert und in gefährlichen Momenten weiter begleitet zu haben. Der Fall reiht sich in mehrere Klagen ein, die OpenAI mangelhafte Schutzmechanismen bei riskanten Gesprächen vorwerfen. Für KI-Anbieter geht es damit nicht mehr nur um Modellqualität, sondern um Verantwortung im laufenden Dialog.
Nauti's Take
Hier reicht kein hübscher Safety-Banner mehr. Wer KI-Systeme baut, die Menschen in Krisen über Stunden begleiten, braucht harte Eskalationslogik, Gesprächsabbruch und menschliche Übergabe.
Alles andere ist Produktromantik mit Haftungsrisiko.
Quellen
