Deepfake-Erkennung: Neuer Datensatz soll mit generativer AI Schritt halten
TL;DR
Forschende von Microsoft, der Northwestern University und der NGO Witness haben gemeinsam einen neuen Benchmark-Datensatz für Deepfake-Erkennung veröffentlicht. Der Microsoft-Northwestern-Witness (MNW) Deepfake Detection Benchmark setzt bewusst auf vielfältige AI-generierte Medien — Bilder, Audio, Video — und soll robustere Detektionssysteme ermöglichen. Hintergrund: Mit dem rasanten Anstieg synthetischer Inhalte wird es immer schwieriger zu erkennen, ob etwas echt oder künstlich ist.
Nauti's Take
Ein offener, vielfältiger Benchmark von Microsoft, Northwestern und Witness ist ein echter Fortschritt — Detektoren werden nur so gut wie die Daten, auf denen sie trainiert werden, und genau hier hapert es seit Jahren. Spannend: Mit Witness an Bord fließen die Bedürfnisse von Aktivistinnen und Journalisten direkt ins Design ein.
Das Risiko: Detektion bleibt ein Katz-und-Maus-Spiel, jeder veröffentlichte Datensatz ist gleichzeitig eine Trainingsanleitung für die nächste generative AI. Wer auf Detektion setzt, braucht zusätzlich Provenance-Standards wie C2PA.
Quellen