Senate Democrats are trying to ‘codify’ Anthropic’s red lines on autonomous weapons and mass surveillance
TL;DR
Senator Adam Schiff (D-CA) arbeitet an einem Gesetzentwurf, der Anthropics interne Grenzen für autonome Waffensysteme gesetzlich verankern soll – Menschen müssen bei Entscheidungen über Leben und Tod das letzte Wort haben.
Key Points
- Senator Elissa Slotkin (D-MI) hat bereits einen separaten Gesetzentwurf eingebracht, der das Verteidigungsministerium daran hindern soll, KI zur Massenüberwachung von US-Bürgern einzusetzen.
- Die Trump-Regierung setzte Anthropic Anfang März auf eine Lieferanten-Risikoliste, nachdem das Unternehmen dem Militär Nutzungsbeschränkungen für seine KI-Modelle auferlegt hatte.
- Anthropic hat dagegen geklagt und wirft der Regierung eine Verletzung seiner Verfassungsrechte vor.
Nauti's Take
Es ist bemerkenswert, dass ausgerechnet ein demokratischer Senator die Hausregeln eines Unternehmens in Gesetzesform gießen will – das klingt weniger nach Tech-Regulierung und mehr nach politischer Unterstützung für einen Konzern im Clinch mit der Regierung. Trotzdem ist die Kernforderung richtig: Wer eine KI abdrücken lässt, muss ein Mensch sein.
Dass das überhaupt per Gesetz festgeschrieben werden muss, sagt viel darüber aus, wie schnell autonome Systeme in militärische Beschaffung rutschen, bevor ethische Leitplanken existieren. Anthropic spielt hier eine ungewöhnliche Doppelrolle: einerseits als Kläger gegen die Regierung, andererseits als de-facto Vorlage für Gesetzgebung – das ist neu in der KI-Branche.
Quellen