Hugging Face: Undressing-Deepfakes laufen fast ungehindert
TL;DR
Ein Bericht der europäischen NGO AI Forensics zeigt: Sieben der neun meistgenutzten Bildbearbeitungs-Modelle auf Hugging Face erfüllen simple Prompts, mit denen sich Frauen auf Fotos ausziehen lassen. Während Gemini oder ChatGPT solche Anfragen blockieren, fehlen bei den offenen Modellen auf der Plattform vergleichbare Guardrails weitgehend. Hugging Face unternimmt laut Bericht wenig dagegen und wird so zur Infrastruktur für nicht einvernehmliche Deepfakes.
Nauti's Take
Positiv ist, dass unabhängige Tests wie die von AI Forensics überhaupt möglich sind: Offene Plattformen lassen sich prüfen, geschlossene nicht – darin liegt die Chance, Missbrauch messbar zu machen. Das Problem bleibt gravierend, denn ohne Guardrails wird ein Modell-Repository zur Infrastruktur für nicht einvernehmliche Deepfakes, mit realem Schaden für Betroffene.
Wer offene Modelle produktiv nutzt, braucht eigene Filter und eine dokumentierte Moderationslinie.
Quellen