Claude wird für staatliche Überwachung und Spionage eingesetzt
TL;DR
Anthropic berichtet, dass mit Regierungen verbundene Akteure Claude für Überwachungsoperationen in mehreren Ländern nutzen. In Mali soll ein Berater für nationale Sicherheitsbehörden ein System entwickelt haben, das Daten von Mobilfunkanbietern sammelt und daraus Dossiers über Personen erstellt. Iranische Akteure nutzten Claude laut Bericht zudem für eine schädliche Firefox-Erweiterung, die Identitäten aus sozialen Netzwerken abgreifen sollte.
Nauti's Take
Für Teams mit sensiblen Daten gehört Missbrauch durch Dritte inzwischen in die Bedrohungsanalyse jedes AI-Workflows. Prüft zuerst, welche personenbezogenen Informationen eure Modelle erreichen können, welche Logs und Zugriffsrechte bestehen und ob sich kritische Schritte ohne Modellzugriff ausführen lassen.
Die Fälle stammen aus einem Anthropic-Threat-Report, unabhängige Details bleiben begrenzt.
Quellen