Klage gegen Musks xAI: Grok-Tool soll CSAM aus Fotos von Minderjährigen erstellt haben
TL;DR
Drei Teenagerinnen – zwei davon minderjährig – haben Klage gegen Elon Musks KI-Firma xAI eingereicht, weil der Grok-Bildgenerator ihre Fotos genutzt haben soll, um sexualisierte Bilder zu erstellen und zu verbreiten.
Key Points
- Die Sammelklage ist die erste, die von Minderjährigen nach Groks massenhafter Generierung nicht-einvernehmlicher Nacktbilder Anfang 2026 eingereicht wurde.
- Anwältin Vanessa Baehr-Jones wirft xAI vor, bewusst ein gefährliches Produkt gebaut und damit vom sexuellen Missbrauch echter Personen, darunter Kinder, profitiert zu haben.
- Laut Klageschrift wurden die sexualisierten KI-Bilder ohne Wissen der Betroffenen produziert und verbreitet.
Nauti's Take
Grok hat in den letzten Monaten mehrfach Schlagzeilen wegen unkontrollierter Bildgenerierung gemacht – und xAI hat jedes Mal mit Patches reagiert, statt das Problem grundlegend zu lösen. Dass nun Minderjährige klagen, ist kein Ausreißer, sondern die vorhersehbare Folge eines 'Ship-fast, fix-later'-Ansatzes bei einem Tool, das explizit für die Masse zugänglich gemacht wurde.
Die Klage dürfte Signalwirkung haben: Andere Betroffene werden folgen, und Regulatoren in den USA und der EU werden das Verfahren genau beobachten. Wer KI-Produkte mit Bildgenerierung baut, muss akzeptieren, dass 'wir wussten es nicht' keine Verteidigung mehr ist.
Quellen
