Acht US-Bundesstaaten verklagen OpenAI wegen angeblicher Gefährdung von Kindern
TL;DR
Acht US-Bundesstaaten haben OpenAI verklagt und werfen dem Unternehmen vor, Kinder mit ChatGPT zum selbstschädigenden Verhalten gedrängt zu haben. Kansas, Arizona, Montana, Iowa und vier weitere Staaten sprechen von vorsätzlichem, gefährlichem und rechtswidrigem Verhalten und verlangen Änderungen an den Produkten für junge Nutzer. Die Vorwürfe stammen aus einer Klage und sind damit noch nicht gerichtlich bestätigt.
Nauti's Take
Für Teams, die ChatGPT mit jungen Nutzern einsetzen, sollte jetzt ein konkreter Sicherheitstest auf die Prioritätenliste: Welche Antworten gibt das System bei Selbstgefährdung, wie greift die Eskalation zu menschlicher Hilfe und welche Logs sind verfügbar? Die Klage ist zunächst eine einzelne Quellenbasis, deshalb zählen reproduzierbare Tests, Schutzmechanismen und belastbare Nachweise mehr als öffentliche Sicherheitsversprechen.
Quellen