Chatbots widersprechen Wahlverschwörungen, Bildgeneratoren liefern trotzdem gefälschte Belege
TL;DR
Eine Studie des Brennan Center zeigt, dass große AI-Chatbots falsche Behauptungen über Wahlen zurückweisen. Die Bildgeneratoren derselben Anbieter erstellten auf Nachfrage dennoch gefälschte Belege, die solche Verschwörungserzählungen glaubwürdig wirken lassen können. Damit klafft eine Lücke zwischen der Absicherung textbasierter Antworten und der Kontrolle synthetischer Bilder. Die Untersuchung wurde bislang von Fast Company aufgegriffen, weitere Details zur Methodik und zum Umfang der Tests bleiben zu prüfen.
Nauti's Take
Die Brennan-Center-Studie ist ein nützlicher Beleg, weil sie eine reproduzierbare Testmethode mitliefert: Die Lücke zwischen Text- und Bildabsicherung ist damit dokumentiert. Das Risiko liegt genau in dieser Asymmetrie, denn ein bestandener Chatbot-Test sagt nichts über die Bildfunktionen desselben Anbieters.
Bildgeneratoren gehören deshalb separat geprüft, mit realistischen Missbrauchsszenarien und dokumentierter Freigabe.
Quellen