AI-Waffensysteme sind längst Realität: Warum Menschen über Leben und Tod entscheiden müssen
TL;DR
Kenneth Roth warnt im Guardian davor, dass AI-gestützte Waffensysteme bereits heute Entscheidungen mit tödlichen Folgen beeinflussen könnten. Als Beispiel verweist er auf Israels Vorgehen im Gaza-Krieg und die mögliche Nutzung von Algorithmen zur Auswahl von Angriffszielen. Vollautonome Systeme werden oft als Killerroboter beschrieben, doch die entscheidende Frage beginnt früher: Wie viel Kontrolle geben Menschen an Modelle und militärische Software ab?
Nauti's Take
Für jedes AI-System mit realen Schadensfolgen sollte ein Team vor dem Einsatz klären, wer Zielauswahl, Freigabe, Protokollierung und Abbruch kontrolliert. Bei militärischen Anwendungen reicht eine menschliche Freigabe auf dem Papier nicht aus: Entscheidend sind überprüfbare Daten, klare Eskalationsregeln und ein vollständiger Audit-Trail, bevor man Aussagen über autonome Entscheidungen übernimmt.
Quellen