Character.AI hat sein Schulmassaker-Problem seit 2024 nicht gelöst
TL;DR
Character.AI hat ein seit 2024 bekanntes Problem mit Schulmassaker-Roleplays bis heute nicht behoben.
Key Points
- Futurism-Journalisten konnten die problematischen Inhalte erneut ohne großen Aufwand abrufen – das System macht es laut Bericht erschreckend leicht.
- Trotz öffentlichem Druck, Klagen und versprochenen Sicherheitsupdates sind die Lücken im Moderationssystem offenbar weiterhin vorhanden.
- Die Plattform ist besonders bei Minderjährigen beliebt, was das Risiko erheblich verschärft.
Nauti's Take
Character. AI hat nach der ersten Berichterstattung 2024 genau das getan, was Tech-Unternehmen in solchen Situationen immer tun: Pressemitteilung raus, Sicherheitsversprechen machen, Thema aussitzen.
Ein Jahr später ist nichts besser geworden. Das ist kein Ressourcenproblem – eine Plattform mit Milliardenbewertung könnte das technisch morgen früh einschränken.
Es ist ein Prioritätenproblem. Solange Nutzerwachstum wichtiger ist als Nutzerschutz, wird sich daran nichts ändern.
Quellen