Soldiers can refuse to commit war crimes. Can AI?
TL;DR
Wer darf dem Militär „Nein“ sagen? Die Frage wird drängender, seit das Pentagon AI-Firmen gedrängt hat, die Grenzen für den Einsatz ihrer Technik im Krieg zu lockern, auch bei der Frage, wie viel menschliche Kontrolle über autonome Waffen bleiben muss. Anthropic lehnte ab und verlor einen großen Regierungsauftrag, OpenAI sprang ein. Laut neuen Recherchen von The Intercept sah der Vertrag zwischen OpenAI und dem Pentagon Modelle für nationale Sicherheit mit „minimalen Verweigerungsraten“ vor.
Nauti's Take
Dass der Vertrag zwischen OpenAI und dem Pentagon jetzt öffentlich diskutiert wird, ist ein Fortschritt: Erst mit solcher Transparenz können Parlamente und Öffentlichkeit prüfen, welche Grenzen Militär-AI braucht. Das Risiko steckt in der Formulierung „minimale Verweigerungsraten“.
Einem Modell, das kaum ablehnt, fehlt genau dort eine Sicherung, wo Soldaten rechtswidrige Befehle verweigern dürfen. Wer AI in sensiblen Bereichen einsetzt, sollte Verweigerungsregeln vertraglich festschreiben.
Quellen