Brasilianische Anwälte wollten Gerichts-AI per Prompt Injection beeinflussen
TL;DR
Anwälte eines Klägers in einem brasilianischen Arbeitsrechtsfall versteckten offenbar eine Prompt Injection in einem Schriftsatz, um die AI des Gerichts zu beeinflussen. Der Versuch wurde entdeckt. Besonders absurd: Der Kläger gewann den Fall ohnehin, weil die Gegenseite nicht reagiert hatte. Der Bericht stammt von Tom’s Hardware AI; Details zum eingesetzten System und zur genauen Funktionsweise des Angriffs bleiben damit unbestätigt.
Nauti's Take
Für Teams, die AI mit Dokumenten arbeiten lassen, gehört Prompt Injection ab sofort in jeden Praxistest: Eingaben aus PDFs, Schriftsätzen und E-Mails müssen klar von Systemanweisungen getrennt, bereinigt und protokolliert werden. Zuerst sollte geprüft werden, ob das Modell fremde Anweisungen überhaupt befolgt und welche menschliche Kontrolle vor einer Entscheidung greift.
Quellen
