Acht US-Bundesstaaten verklagen OpenAI: ChatGPT sei für Kinder nicht sicher
TL;DR
OpenAI sieht sich einer neuen Klagewelle aus acht US-Bundesstaaten gegenüber. Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho und Montana werfen dem Unternehmen vor, bei der Entwicklung von ChatGPT Gewinne über Sicherheitsfragen gestellt und Kunden unzureichend über mögliche Risiken informiert zu haben. Die Beschwerden berufen sich unter anderem auf Klagen von Familien, die dem Chatbot eine Rolle in Fällen mit Jugendlichen und Erwachsenen zuschreiben.
Nauti's Take
Für Teams, die ChatGPT mit Minderjährigen, psychischer Gesundheit oder sensiblen Beratungsprozessen einsetzen, gehört ein belastbarer Schutzplan jetzt auf die Prüfstrecke. Testet zuerst Altersgrenzen, Eskalation an Menschen, Protokollierung und den Umgang mit Krisensignalen, bevor ihr euch auf allgemeine Sicherheitsversprechen des Anbieters verlasst.
Quellen