US-Anwalt wegen AI-generiertem Schriftsatz mit erfundenen Zeugenaussagen bestraft
TL;DR
Der New-Mexico-Anwalt Stephen Aarons wurde vom höchsten Gericht des Bundesstaats mit einer Geldstrafe belegt und wegen Missachtung des Gerichts belangt. In einem Berufungsschriftsatz zur Mordverurteilung seines Mandanten standen laut Gericht erfundene Aussagen von Polizisten und Zeugen, die ChatGPT erzeugt hatte; Aarons wollte damit eine wasserdichte Zusammenfassung erstellen.
Nauti's Take
Wer AI in rechtlichen oder anderen beweiskritischen Workflows einsetzt, braucht eine harte Quellenkette: Jede Tatsachenbehauptung muss auf ein Originaldokument zurückführbar und von einem Menschen geprüft sein. Für kleine Teams sollte der erste Test deshalb ein kontrollierter Prozess mit Quellenfeldern, Gegenprüfung und klarer Freigabe sein, bevor AI-Text in einen offiziellen Vorgang gelangt.
Quellen