Bericht: Meta lässt verstörende AI-Videos mit Kindesmissbrauch auf Facebook online
TL;DR
Laut Futurism weigert sich Meta, mehrere grafische, AI-generierte Videos mit Kindesmissbrauch von Facebook zu entfernen, darunter die Darstellung eines Babys in einem Ofen. Der Bericht beschreibt die Inhalte als weiterhin zugänglich und stellt Metas Moderationsentscheidungen infrage. Die Quellenbasis besteht hier aus einem einzelnen Medienbericht, konkrete Links, Moderationsbegründungen und eine Stellungnahme von Meta fehlen.
Nauti's Take
Die Meldung sollte zunächst als Prüfpunkt behandelt werden, nicht als abschließender Beleg für eine generelle Meta-Strategie. Wer AI-Workflows oder Moderationstools baut, sollte gezielt testen, wie grafische synthetische Inhalte erkannt, priorisiert und an Menschen eskaliert werden, und dabei Fehlentscheidungen sowie die Begründungen im Audit-Log festhalten.
Quellen