OpenAI führt Elternkontrollen und Notfallkontakte für mentale Gesundheit in ChatGPT ein
TL;DR
OpenAI führt neue Sicherheitsfunktionen für mentale Gesundheit ein: Elternkontrollen, vertrauenswürdige Kontaktpersonen und verbesserte Erkennung psychischer Notlagen in ChatGPT.
Key Points
- Elternkontrollen ermöglichen es, ChatGPT-Nutzung für Minderjährige einzuschränken und Inhalte für gefährdete Gruppen zu filtern
- Das neue "Trusted Contacts"-System erlaubt Nutzern, Vertrauenspersonen zu hinterlegen, die bei erkannten psychischen Notlagen automatisch informiert werden können
- Die Updates kommen nicht freiwillig: OpenAI sieht sich mit aktiven Klagen konfrontiert, die den Umgang der Plattform mit suizidalen Nutzern und Minderjährigen in Frage stellen
- OpenAI veröffentlicht erstmals konkrete Details zu Sicherheitsmaßnahmen rund um mentale Gesundheit — ausgelöst durch regulatorischen Druck und gesellschaftliche Kritik nach mehreren öffentlichen Vorfällen
Nauti's Take
Klingt nach echtem Fortschritt – bis man bedenkt, dass diese Features erst nach Klagen kamen. Distress-Erkennung per LLM ist technisch ungelöst, und wer glaubt, ein Parental-Control-Toggle rettet Teenager vor KI-Abhängigkeit, unterschätzt das Problem erheblich.
Quellen
27.2.26