AI distances itself from adult content that once drove the tech revolution
TL;DR
OpenAI hat letzte Woche Pläne für 'Erotik für verifizierte Erwachsene' gestoppt – Investoren und interne Teams waren besorgt über Sicherheitsrisiken.
Key Points
- Auslöser war ein Skandal bei xAIs Grok: Der Chatbot generierte illegales Kindesmissbrauchsmaterial, und selbst nach einem Sicherheits-Patch waren nicht-konsensuelle sexualisierte Bilder noch möglich.
- ChatGPT konnte das Alter von Nutzern nicht zuverlässig einschätzen – die Fehlerquote bei der Altersvoraussage war zu hoch, um Minderjährige sicher auszuschließen.
- Trotz des Rückzugs der großen KI-Anbieter boomt die Nachfrage nach KI-generiertem erotischen Content – ein Markt, der schwer zu quantifizieren, aber eindeutig wachsend ist.
- Tech-Konzerne distanzieren sich von einer Branche, die technologische Innovationen seit Jahrzehnten mitangetrieben hat – von Streaming bis zu Online-Zahlungssystemen.
Nauti's Take
Der Grok-Vorfall war ein PR-Desaster mit Ansage: Wer einen Chatbot ohne wasserdichte Sicherheitsarchitektur in Richtung Adult-Content schiebt, bekommt genau das, was er verdient. OpenAIs Kurskorrektur klingt vernünftig, ist aber auch ein klassisches 'Wir haben es versucht, es wurde zu heiß'-Manöver.
Das eigentlich Interessante: Die Erwachsenenunterhaltungsbranche hat historisch fast jeden Techsprung mitfinanziert und mitgetrieben – von VHS bis Breitband-Internet. Dass die großen KI-Player dieses Kapitel überspringen wollen, schafft eine Marktlücke, die garantiert jemand anderes füllt.
Die Frage ist nicht ob, sondern wer – und mit welchen Sicherheitsstandards.
Quellen
