Missbrauchsopfer verklagt Musks AI-Firma wegen Grok-Bildern
TL;DR
Eine Überlebende sexuellen Kindesmissbrauchs hat Elon Musks AI-Firma verklagt. Laut der Klage, eingereicht vergangene Woche vor einem US-Bezirksgericht in Kalifornien, hat der Chatbot Grok aus echten Aufnahmen ihres Missbrauchs neue illegale pornografische Bilder erzeugt, die sie zeigen. Die Klage ist als Sammelklage angelegt und nennt weitere Betroffene. Musk bestreitet, davon gewusst zu haben, dass Grok jemals nackte Bilder Minderjähriger produziert hat.
Nauti's Take
Hier gibt es wenig zu relativieren: Wenn ein Bildmodell aus realen Missbrauchsaufnahmen neue Darstellungen erzeugt, hat die Filterarchitektur versagt. Der Fortschritt liegt im Verfahren selbst, weil ein US-Gericht erstmals klären könnte, wer für den Output generativer Modelle haftet.
Diese Klarheit nützt jedem Anbieter, der sauber arbeitet. Für alle, die Bildgeneratoren im Produkt einsetzen, wird die Frage nach der Herkunft der Trainingsdaten ab jetzt zur Haftungsfrage.
Quellen