Anthropic-Bericht: Kriminelle und Staaten wollten Claude für Biowaffen nutzen
TL;DR
Anthropic hat einen 154-seitigen Threat-Intelligence-Bericht veröffentlicht. Kriminelle, staatlich gestützte Gruppen, Spyware-Anbieter und Propagandisten haben demnach versucht, Claude für den Entwurf von Raketen und Drohnen, die Entwicklung gefährlicher Erreger und die Überwachung von Dissidenten einzusetzen. Allein in 30 Tagen zählte Anthropic rund 35 auffällige Forschungsvorhaben im Bio-Bereich und sperrte die betroffenen Accounts.
Nauti's Take
Dass Anthropic Missbrauchsfälle so detailliert offenlegt, ist ein Vorteil für die ganze Branche: Andere Anbieter und Behörden bekommen konkrete Muster, an denen sie ihre eigenen Schutzmechanismen messen können. Das Risiko bleibt, denn gesperrte Accounts zeigen nur die entdeckten Fälle, und wer Regionssperren umgeht, findet oft den nächsten Weg.
Für Unternehmen mit sensiblen Forschungsdaten heißt das: Nutzungsrichtlinien und Zugriffe jetzt klar regeln.
Quellen