Wegen Mordes verurteilt, dann per AI-Halluzination zum Schweigen gebracht
TL;DR
Der Parole Board in Tasmanien hat Susan Neill-Fraser mit einem Dokument daran gehindert, öffentlich ihre Unschuld zu beteuern. Das Papier zitierte juristische Quellen, die es gar nicht gibt, ein typisches Zeichen von AI-Halluzinationen. Neill-Fraser wurde für den Mord an Bob Chappell verurteilt, der Fall geht auf den Januar 2009 und die Yacht Four Winds auf dem Derwent River zurück. Unterstützer bezeichnen das Vorgehen der Behörde als zutiefst beunruhigend.
Nauti's Take
Der Fall zeigt, wie schnell erfundene Quellen reale Folgen haben, und schafft damit eine Chance für klare Prüfpflichten bei AI-Texten in Behörden. Das Risiko trifft Menschen, die sich kaum wehren können, wenn eine Entscheidung auf halluzinierten Präzedenzfällen beruht.
Wer in Justiz, Verwaltung oder Kanzleien mit AI schreibt, sollte jede Quelle von einem Menschen gegenprüfen lassen.
Quellen