Anthropic warnt vor selbstreplizierenden AI-Würmern in Alltagsgeräten
TL;DR
Anthropics Offensive-Research-Team hat laut The Guardian ein bösartiges AI-Programm entwickelt, das sich autonom über internetverbundene Smart-TVs verbreiten kann. Die Forscher halten ähnliche Angriffe auf weitere Alltagsgeräte für möglich, auch wenn diese deutlich weniger Rechenleistung haben als moderne AI-Systeme. Entscheidend ist der Trend: Wenn Modelle auf schwächerer Hardware ausreichend leistungsfähig werden, könnten sich solche Würmer noch in diesem Jahr praktisch umsetzen lassen.
Nauti's Take
Für kleine Teams ist jetzt die Geräte- und Netzwerkhygiene der sinnvollste Testpunkt: Welche Systeme dürfen ausgehende Verbindungen aufbauen, Modelle ausführen oder sich gegenseitig erreichen? Prüft zuerst Segmentierung, minimale Berechtigungen und Logs für ungewöhnliche Modellaufrufe, bevor ihr AI-Funktionen auf Fernsehern, Kameras oder anderen Edge-Geräten aktiviert.
Quellen