Britischer Polizist soll KI-Beweismaterial für Ermittlungen erzeugt haben
TL;DR
In Derbyshire steht ein Polizist unter strafrechtlicher Untersuchung, weil er KI genutzt haben soll, um Beweismaterial in mehreren Fällen zu erzeugen. Der nicht namentlich genannte Beamte wurde aus dem Frontdienst genommen; laut Bericht geht es auch um den Vorwurf, den Lauf der Justiz behindert zu haben. Der Fall gilt als erster bekannter dieser Art in Großbritannien. Er zeigt, wie schnell generative KI die Beweiskette kontaminieren kann, wenn Behörden keine harten Prüf- und Protokollpflichten erzwingen.
Nauti's Take
Das ist der Albtraum hinter jedem KI-Copiloten: Nicht Halluzination im Chat, sondern Halluzination in der Akte. Wer KI in Ermittlungen baut, braucht unveränderbare Logs, Herkunftsnachweise und harte Sperren gegen Output als Beweisersatz.
Sonst wird Automation zur Beweismittelfabrik.
Quellen