Margaret Atwood zerlegt KI-Chatbots mit einem alten Informatiker-Satz
TL;DR
Margaret Atwood sagte beim Babell Literary and Cultural Festival in Porto, sie habe Claude genau einmal ausprobiert und sei wegen einer falschen Antwort zur Serie Father Brown direkt wieder ausgestiegen. Ihr Kernpunkt: Ein LLM weiß nicht, ob es lügt. Es sampelt veröffentlichte Texte, übernimmt deren Lücken und kann daraus eine Antwort bauen, die plausibel klingt, aber falsch ist.
Nauti's Take
Atwood liefert keine technische Analyse, aber eine brauchbare Alltagsethik: Wer AI nutzt, bleibt für die Prüfung verantwortlich. Der Reflex, Halluzinationen als Kinderkrankheit abzutun, wird dünner, sobald Menschen die Antworten für Recherche, Arbeit oder Schule übernehmen.
Das Problem ist nicht nur schlechte Datenqualität. Es ist die Bequemlichkeit, eine überzeugende Antwort mit einer geprüften Antwort zu verwechseln.
Einordnunganzeigen
Atwoods Beispiel ist klein, trifft aber einen großen Punkt: AI-Modelle können Wissen nicht von sauberer Quellenlage trennen, wenn die Trainings- oder Suchbasis schon lückenhaft ist. Für Nutzer heißt das: Je konkreter die Frage und je höher der Schaden bei Fehlern, desto weniger reicht ein flüssiger Satz als Beleg.
Quellen