NVIDIA Vera: Neue CPU soll AI-Agenten schneller durch Tool-Aufrufe bringen
TL;DR
NVIDIA positioniert Vera als neue CPU-Klasse für agentische KI: maximale Single-Thread-Leistung unter voller Rechenlast, nicht nur möglichst viele günstige Server-Kerne. Der Kern Olympus soll 50 Prozent mehr Instruktionen pro Takt als Grace liefern. Vera kombiniert 88 Kerne mit bis zu 1,2 TB/s LPDDR5X-Speicherbandbreite und 3,4 TB/s Core-to-Core-Bandbreite.
Nauti's Take
Vera ist weniger ein einzelner Chip-Hype als ein Hinweis auf die nächste Infrastruktur-Baustelle: Agenten machen viele kleine, abhängige Schritte, und jeder langsame CPU-Teil bremst die ganze Schleife. NVIDIA nutzt den Blog natürlich als Roadmap-PR für Vera, Rubin, BlueField und Rosa.
Trotzdem ist der Kernpunkt plausibel: Wer Coding-Agenten, Recherche-Agenten oder Daten-Agenten skaliert, muss CPU-Latenz, Speicherbandbreite und Sandbox-Startzeiten wie Produktmetriken behandeln.
Einordnunganzeigen
Agenten sind nicht nur GPU-Last. Zwischen Modellaufrufen hängen sie an Tool Calls, Sandboxes, Code-Ausführung, Datenbankabfragen und Prüfungen. Wenn diese Schritte auf der CPU warten, sinkt die gefühlte Geschwindigkeit und teure GPUs stehen schlechter ausgelastet da.
Vera zeigt, dass AI-Infrastruktur wieder stärker über Latenz pro Schritt diskutiert wird, nicht nur über Token pro Sekunde.
Quellen