Drei Worte entscheiden, ob Roboter im Krieg Menschen töten dürfen
TL;DR
Eine russische AI-gestützte Drohne soll in der Ukraine ihr Ziel selbst ausgewählt haben, drei Zivilisten starben. Der Fall macht konkret, was bisher vor allem Theorie war: Maschinen, die ohne direkte menschliche Entscheidung tödlich handeln. Die internationale Debatte hängt an einer Formulierung zur menschlichen Kontrolle, die in kommende Regelwerke geschrieben werden soll. Wie diese drei Worte ausfallen, bestimmt, wie viel Autonomie Waffensysteme künftig haben.
Nauti's Take
Die Chance dieser Debatte: Sie zwingt Regierungen, menschliche Kontrolle endlich verbindlich zu definieren, statt den Begriff in Absichtserklärungen zu parken. Das Risiko liegt in der Beweislage, denn der Ukraine-Fall stützt sich auf Bergungsdaten einer Konfliktpartei und ist unabhängig kaum prüfbar.
Wer AI in sicherheitskritische Systeme baut, zieht daraus eine banale und teure Lehre: Autonomiegrade gehören dokumentiert und jederzeit abschaltbar.
Tweets
Quellen