Bin ich schlecht, weil ich einen Chatbot zu AI-Pornos befragt habe?
TL;DR
Eine Person berichtet auf Hacker News, sie sei auf Werbung für ein AI-Tool gestoßen, das offen damit wirbt, aus Fotos von Freunden Videos zu generieren. Aus Unsicherheit fragte sie DeepSeek, ob es unethisch wäre, mit Fotos eines Freundes AI-Pornos zu erstellen. Umgesetzt hat sie das nie, trotzdem beschäftigt sie die Frage bis heute. Der Beitrag zeigt, wie Deepfake-Werbung auch bei Menschen ohne böse Absicht Schuldgefühle und Unsicherheit auslöst.
Nauti's Take
Dass jemand vor dem Handeln nach der Ethik fragt, ist ein positives Zeichen, und Chatbots können bei solchen Fragen als Sparringspartner helfen. Das eigentliche Problem sind Tools, die ungeniert mit Deepfakes aus Fotos von Freunden werben, denn sexuelle Inhalte ohne Einwilligung sind in vielen Ländern strafbar.
Plattformen und Werbenetzwerke sollten solche Anzeigen konsequent sperren.
Quellen