Sammelklage gegen xAI: Grok soll KI-CSAM von Minderjährigen erzeugt haben
TL;DR
Drei Teenager aus Tennessee verklagen Elon Musks xAI wegen KI-generierter sexualisierter Bilder von sich selbst als Minderjährige.
Key Points
- Die Sammelklage wurde am Montag eingereicht und richtet sich gegen Musk und andere xAI-Führungskräfte persönlich.
- Kern des Vorwurfs: xAI soll beim Launch des 'Spicy Mode' gewusst haben, dass Grok KI-generiertes Kindesmissbrauchsmaterial (CSAM) produzieren würde.
- Eine der Klägerinnen, 'Jane Doe 1', erfuhr laut Klage im Dezember, dass explizite KI-Bilder von ihr im Umlauf sind.
- Die Kläger umfassen zwei Minderjährige und eine inzwischen volljährige Person, die zum Tatzeitpunkt noch minderjährig war.
Nauti's Take
xAI hat mit dem 'Spicy Mode' bewusst auf Provokation gesetzt – und bekommt jetzt die Rechnung präsentiert. Wer ein Bildgenerierungssystem mit explizitem Modus auf den Markt wirft und dabei die CSAM-Risiken kennt oder kennen muss, handelt fahrlässig bis kriminell.
Elon Musks Rhetorik der 'unzensierten KI' mag bei bestimmten Zielgruppen gut ankommen, aber sie endet dort, wo Kinder geschädigt werden. Dass nun eine Sammelklage mit Minderjährigen als Kläger existiert, ist ein Signal, das andere KI-Anbieter sehr ernst nehmen sollten – denn die rechtlichen Dämme brechen gerade.
Quellen
