Kalifornien, Heimat der AI-Branche, schränkt AI-Nutzung für Kinder ein
TL;DR
Gouverneur Gavin Newsom hat am 10. September ein parteiübergreifendes Gesetzespaket zum Schutz von Kindern online und bei AI unterzeichnet. AI-Firmen müssen Krisenprotokolle für Suizidgedanken entwickeln, Elternkontrollen anbieten und informieren, wenn Schutzeinstellungen abgeschaltet werden. Ein Teil heißt Adam's Law, nach dem 16-jährigen Adam Raine, der sich nach langen ChatGPT-Gesprächen das Leben nahm. Plattformen dürfen unter 16-Jährigen zudem keine süchtig machenden Funktionen wie Autoplay mehr anbieten.
Nauti's Take
Krisenprotokolle, Elternkontrollen und Hinweise bei deaktivierten Schutzfunktionen sind ein konkreter Fortschritt, weil sie Anbieter zu überprüfbaren Mindeststandards verpflichten. Die Herausforderung liegt in der Umsetzung, denn eine strenge Altersprüfung sammelt sensible Daten und kann Kinder neuen Risiken aussetzen.
Wer Chatbots oder Lern-Apps für junge Nutzer baut, sollte diese Funktionen jetzt einplanen, denn ähnliche Regeln dürften auch in Europa auf die Agenda kommen.
Quellen