Cisco und Nvidia entwickeln optische Netzwerke für den AI-Boom
TL;DR
Cisco arbeitet mit Nvidia an einer neuen Generation optischer Netzwerktechnik für AI-Rechenzentren. Cisco-Manager Jeetu Patel erklärt im Gespräch mit Bloomberg, dass leistungsfähigere AI-Agenten deutlich mehr Bandbreite benötigen könnten als Menschen bei denselben Aufgaben, weil sie viele Prozesse parallel ausführen. Schnellere und energieeffizientere Verbindungen sollen dabei helfen, Hunderttausende GPUs zu koordinieren und die Kosten von AI-Infrastruktur zu senken.
Nauti's Take
Für kleine Teams ist die Netzwerktechnik zunächst ein Infrastrukturindikator: Bei langen Agentenketten und vielen parallelen Modellaufrufen sollte die Auslastung zwischen GPUs, Datenbanken und Tools gemessen werden. Prüft zuerst, ob Verzögerungen tatsächlich aus dem Netzwerk kommen oder aus Modelllatenz, API-Limits und schlecht gebündelten Requests.
Quellen