27 / 3891

Bericht: AI-bezogene Darstellungen sexualisierter Gewalt an Kindern steigen um 8.400 Prozent

TL;DR

Der Einsatz von AI zur sexualisierten Ausbeutung von Kindern hat laut einer Studie innerhalb von zwei Jahren stark zugenommen. Das in Edinburgh ansässige Childlight Institute zählt mehr als 400.000 gemeldete Fälle AI-bezogenen Missbrauchsmaterials für 2025, gegenüber etwa 4.700 im Jahr 2023. Dazu gehören Deepfakes aus sogenannten Nudify-Apps.

Nauti's Take

Für Teams, die AI-Produkte entwickeln oder einsetzen, ist die erste Prüfung die Missbrauchsfläche: Können Bilder ohne Einwilligung sexualisiert, verändert oder verbreitet werden, und greifen Schutzmechanismen auch bei neuen Varianten? Die genannte Steigerung ist wegen der dünnen Quellenlage vorerst ein Warnsignal, keine belastbare Marktstatistik.

Testet Moderation, Meldewege und das Verhalten bei absichtlich verschleierten Anfragen mit realistischen Fällen.

Quellen