KI-Halluzinationen: Wall-Street-Kanzlei Sullivan & Cromwell entschuldigt sich
TL;DR
Die renommierte Wall-Street-Kanzlei Sullivan & Cromwell musste sich bei einem New Yorker Bundesgericht entschuldigen: Ein zentraler Schriftsatz im hochkarätigen Fall Prince Group enthielt fehlerhafte Zitate und andere Fehler – verursacht durch KI-Halluzinationen. Andrew Dietderich, Co-Chef der globalen Restrukturierungsgruppe, räumte die Fehler in einem Brief an Richter Martin Glenn ein. Der Vorfall wirft erneut schwere Fragen zur ungeprüften Nutzung von KI in juristischen Dokumenten auf.
Nauti's Take
KI-Halluzinationen in Gerichtsschriftsätzen sind kein theoretisches Risiko mehr – der Fall Sullivan & Cromwell zeigt, wie real und folgenreich unkontrollierter KI-Einsatz in der Rechtsbranche ist. Für Kanzleien ist das ein klarer Weckruf, dringend verbindliche Verifizierungsprozesse einzuführen.
Das Potenzial von KI in der Rechtsrecherche bleibt trotzdem real – der Unterschied liegt im Wie: mit menschlicher Überprüfung als Pflichtschritt, nicht als Option.
Quellen