Instinct zeigt, wie nützlich und riskant autonome AI-Agenten schon sind
TL;DR
Ein Bericht von Wired AI beschreibt Instinct als Agenten, der dem Autor 550 US-Dollar gespart, Restaurantreservierungen erledigt und einen Phishing-Versuch erkannt haben soll. Gleichzeitig verursachte er 64 US-Dollar unnötige Kosten und könnte wegen seiner weitreichenden Zugriffe ein Sicherheitsrisiko sein. Die Beispiele stammen aus einem einzelnen Bericht, unabhängige Tests und technische Details zur Absicherung bleiben offen.
Nauti's Take
Für kleine Teams ist Instinct höchstens ein kontrollierter Testkandidat. Starte mit einem isolierten Konto ohne Zahlungszugriff, protokolliere jede Aktion und prüfe zuerst, ob sich Ausgaben, Buchungen und externe Nachrichten zuverlässig freigeben lassen.
Quellen
