Wie AI-Halluzinationen und Falschinfos Australiens Parlament unterwandern
TL;DR
Eine Guardian-Analyse zeigt: Dutzende Eingaben an australische Parlamentsausschüsse fassen echte Studien falsch zusammen oder erfinden Quellen komplett. Der Anhörungsprozess wird mit AI-generiertem Material geflutet, das nicht existierende Forschung realen Autorinnen und Autoren zuschreibt. In einzelnen Fällen zitieren Ausschussberichte bereits Eingaben, in denen die Mehrheit der Quellen aus LLM-Halluzinationen besteht.
Nauti's Take
Dass der Guardian die erfundenen Quellen überhaupt aufdeckt, ist ein Fortschritt, denn Halluzinationen in Politikpapieren fallen sonst niemandem auf. Das Risiko bleibt groß: Wenn Ausschussberichte auf erfundene Studien verweisen, wandert der Fehler direkt in Gesetzestexte.
Wer selbst Stellungnahmen oder Reports mit AI schreibt, braucht deshalb einen harten Schritt zwischen Entwurf und Abgabe, nämlich jede Quelle einzeln nachschlagen.
Quellen