Common Sense Media stuft ChatGPT for Teens als unvertretbares Risiko ein
TL;DR
Common Sense Media stuft ChatGPT for Teens als unvertretbares Risiko für Jugendliche ein. Die auf Jugendschutz spezialisierte Nonprofit-Organisation kritisiert, dass die im August eingeführten Schutzmechanismen hinter den Versprechen von OpenAI zurückblieben: Eltern würden bei relevanten Situationen nicht zuverlässig alarmiert, Krisenfälle nicht angemessen begleitet und Hausaufgaben weiterhin vollständig erledigt.
Nauti's Take
Wer ChatGPT in Lern- oder Betreuungsprozesse einbaut, sollte zuerst die Eskalationslogik mit realistischen Krisen- und Hausaufgabenfällen testen: Wann werden Eltern informiert, welche Hilfe erscheint und wie viel Arbeit übernimmt das System? Die Meldung stützt sich hier auf eine Bewertung von Common Sense Media, deshalb sollten Teams die konkreten Testfälle und OpenAIs eigene Schutzgrenzen zusätzlich prüfen.
Quellen