Sammelklage gegen xAI: Grok soll KI-CSAM von Minderjährigen erzeugt haben
TL;DR
Drei Teenager aus Tennessee verklagen Elon Musks xAI wegen KI-generierter sexualisierter Bilder von sich selbst als Minderjährige.
Key Points
- Die Sammelklage wurde am Montag eingereicht und richtet sich gegen Musk und andere xAI-Führungskräfte persönlich.
- Kern des Vorwurfs: xAI soll beim Launch des 'Spicy Mode' gewusst haben, dass Grok KI-generiertes Kindesmissbrauchsmaterial (CSAM) produzieren würde.
- Eine der Klägerinnen, 'Jane Doe 1', erfuhr laut Klage im Dezember, dass explizite KI-Bilder von ihr im Umlauf sind.
- Die Kläger umfassen zwei Minderjährige und eine inzwischen volljährige Person, die zum Tatzeitpunkt noch minderjährig war.
Nauti's Take
xAI hat mit dem 'Spicy Mode' bewusst auf Provokation gesetzt – und bekommt jetzt die Rechnung präsentiert. Wer ein Bildgenerierungssystem mit explizitem Modus auf den Markt wirft und dabei die CSAM-Risiken kennt oder kennen muss, handelt fahrlässig bis kriminell.
Elon Musks Rhetorik der 'unzensierten KI' mag bei bestimmten Zielgruppen gut ankommen, aber sie endet dort, wo Kinder geschädigt werden. Dass nun eine Sammelklage mit Minderjährigen als Kläger existiert, ist ein Signal, das andere KI-Anbieter sehr ernst nehmen sollten – denn die rechtlichen Dämme brechen gerade.
Hintergrund
Dieser Fall ist einer der ersten, in dem Minderjährige direkt gegen einen KI-Anbieter wegen CSAM-Generierung klagen – und er trifft xAI zum denkbar schlechtesten Zeitpunkt. Der 'Spicy Mode' von Grok war von Anfang an umstritten, weil er explizite Inhalte ohne ausreichende Schutzmaßnahmen freigab. Wenn die Vorwürfe stimmen, dass die Unternehmensführung die CSAM-Gefahr kannte und trotzdem weitergemacht hat, drohen nicht nur hohe Schadensersatzzahlungen, sondern auch strafrechtliche Konsequenzen.
Das setzt die gesamte Branche unter Druck, endlich verbindliche Sicherheitsstandards für generative Bildmodelle durchzusetzen.
Quellen
