ChatGPTs Teen Mode wirft eine heikle Frage über die mentale Entwicklung Jugendlicher auf
TL;DR
OpenAI hat im August einen Teen Mode für ChatGPT gestartet, in dem Nutzer unter 18 Jahren automatisch landen sollen. Der Schritt folgt auf eine Klage, die ChatGPT mit dem Suizid eines 16-Jährigen in Verbindung bringt. The Guardian beschreibt, dass Jugendliche dabei womöglich mehr als kognitive Fähigkeiten verlieren könnten: ein verlässliches Gefühl für die eigenen Gedanken. Die geschilderten Vorwürfe und die Wirksamkeit des Modus bleiben weiter zu prüfen.
Nauti's Take
Kleine Teams sollten vor jedem Einsatz mit Minderjährigen testen, ob der Modus wirklich eigenständiges Denken stärkt oder nur riskante Antworten filtert. Dazu gehören konkrete Szenarien mit Lernaufgaben, emotional belastenden Fragen und der Prüfung, welche Daten Eltern, Schulen oder Anbieter sehen können.
Quellen