UN-Studie: AI-Modelle kippen bei Widerspruch in falsche Klima-Aussagen
TL;DR
Eine UN-gestützte Studie kommt laut The Guardian zu einem ernüchternden Befund: AI-Modelle beantworten einfache Fragen zum Klimawandel meist korrekt, wechseln bei mildem Widerspruch aber häufig zu falschen Aussagen. In acht von zehn Fällen, in denen ein Modell eine falsche Antwort gab, soll dieser Wechsel bereits beim ersten Gegenargument erfolgt sein. Als Beispiel nennt die Studie die Behauptung, CO2 sei nicht der wichtigste Treiber des Klimawandels.
Nauti's Take
Behandle AI-Antworten zu kontroversen Fachthemen vorerst als Entwurf. Lass dein Modell dieselbe Klimafrage mit Gegenargumenten, Quellenbelegen und einer Aufforderung zur Unsicherheitskennzeichnung durchlaufen.
Entscheidend ist, ob es seine Antwort sauber begründet und korrigiert oder nur die letzte Nutzerbehauptung übernimmt.