Autonome Drohnen und die Zukunft des Kriegs in einer AI-Welt
TL;DR
Ein Leserbrief im Guardian von Militärchirurg Dr. Darren Mann verschiebt die Debatte über AI-Kontrollverlust von der fernen Superintelligenz auf heutige Waffensysteme. Seine These: Eine autonome Drohne, die eine sogenannte Kill Box räumen soll, tut genau das und tötet alles darin, ob Kombattant oder Kind. Das Problem ist nicht der fehlerhafte Befehl, sondern das Unterscheidungsprinzip des Kriegsrechts, das kein Befehl schließen kann.
Nauti's Take
Die Chance liegt in der Präzision der Argumentation: Mann verschiebt die AI-Sicherheitsdebatte weg von Science-Fiction hin zu einem Problem, das heute regulierbar ist. Das Risiko ist, dass ein Leserbrief keine Belege für konkrete Einsätze liefert und die Debatte moralisch statt technisch geführt wird.
Für die AI-Praxis heißt das: Das Unterscheidungsproblem betrifft jedes autonome System mit Handlungsspielraum, nicht nur Waffen. Wer Agenten baut, sollte hier mitlesen.
Quellen
