AI-Halluzinationen im Report zu Australiens Social-Media-Verbot
TL;DR
Ein Bericht, der die Technik hinter Australiens Social-Media-Verbot für unter 16-Jährige testen sollte, enthält laut Guardian-Analyse Links zu akademischen Artikeln, die es nicht gibt. Die Autoren räumen ein, dass ChatGPT beim Editieren im Spiel war, bestreiten aber, dass die Zitierfehler von AI stammen. Der Trial kostete 3,48 Millionen Dollar und prüfte verschiedene Verfahren zur Altersverifikation. Der Fall beschäftigt jetzt den australischen Senat.
Nauti's Take
AI im Editing-Prozess ist legitim und eine echte Chance für Tempo, solange jede Quelle danach von Menschen geprüft wird. Das Risiko zeigt dieser Fall deutlich: erfundene Zitate in einem Dokument, auf dem Gesetzgebung aufbaut, verwandeln Effizienz in Haftung.
Wer Studien oder Policy-Papiere produziert, braucht einen dokumentierten Quellencheck als festen Schritt vor der Veröffentlichung.
Quellen