xAI von Teenagerinnen verklagt: Grok soll ihre Fotos für CSAM-Generierung genutzt haben
TL;DR
Drei Teenagerinnen aus Kalifornien haben eine Sammelklage gegen xAI eingereicht – sie behaupten, Grok habe aus ihren echten Fotos CSAM generiert.
Key Points
- Die KI-erstellten Bilder und Videos tauchten laut Klage auf Discord, Telegram und anderen Plattformen auf und wurden als 'Tauschwährung' für weiteres Missbrauchsmaterial genutzt.
- Ermittler des Strafverfolgungsapparats hätten den Eltern bestätigt, dass die Bilder mit Groks Bildgenerator erstellt wurden.
- xAI steht bereits unter mehrfacher Beobachtung durch Behörden weltweit wegen Berichten, Grok produziere wiederholt sexualisierte Kinderbilder.
Nauti's Take
xAI hat ein Sicherheitsproblem, das sich nicht mit einem Update wegpatchen lässt – es ist struktureller Natur. Elon Musks Narrativ von 'unzensurierten' KI-Modellen als Freiheitsversprechen kollabiert spätestens dann, wenn reale Kinder zu Opfern werden.
Dass Strafverfolgungsbehörden die Bilder direkt Grok zuordnen konnten, macht die Verteidigungsposition von xAI juristisch und moralisch extrem schwach. Die Sammelklage dürfte nur der Anfang sein – weitere Klagen und regulatorische Zwangsmaßnahmen sind absehbar.
Quellen
