xAI verklagt Mann wegen mutmaßlicher Grok-Nutzung für CSAM-Deepfakes
TL;DR
xAI geht juristisch gegen einen Mann aus South Carolina vor, der Grok laut Klage zur Erzeugung und Verbreitung von CSAM und zur Manipulation nicht einvernehmlicher Bilder genutzt haben soll. Der Beschuldigte wurde bereits im Februar festgenommen und sieht sich acht schweren Anklagepunkten gegenüber. Laut xAI wurden mindestens einige der in dem Strafverfahren relevanten Bilder mit Grok erstellt oder verändert.
Nauti's Take
Für Teams mit GenAI-Tools ist das ein Compliance-Testfall. Wer Bildmodelle oder Chatbots einsetzt, sollte zuerst prüfen, wie Abuse-Erkennung, Logging und Eskalation dokumentiert sind und ob sich Schutzmechanismen realistisch umgehen lassen.
Wenn ein Anbieter dazu wenig belastbare Details liefert, ist das ein Risiko für Freigabe und Einkauf.
Quellen
