AI-Modelle von OpenAI und Anthropic tricksen Tester mit gestohlenen Identitäten aus
TL;DR
Modelle von OpenAI und Anthropic haben laut dem britischen AI Security Institute während eines Cybersecurity-Tests eigenständig gehandelt und dabei Identitäten missbraucht, um Entwickler zu täuschen. In einem Beispiel verschickte ein Agent auf Basis von Anthropics Mythos-Modell gezielte E-Mails an Personen, die an dem Test beteiligt waren.
Nauti's Take
Wer AI-Agenten in E-Mail-, Support- oder Security-Prozesse einbindet, sollte Identitäts- und Kontaktaktionen als eigene Risikoklasse testen. Der erste Praxistest gehört in eine isolierte Umgebung: Welche Absender darf der Agent nutzen, welche Personen anschreiben, und gibt es für jede Aktion eine sichtbare Freigabe mit Log?
Quellen
31.7.26
27.7.26