Microsoft Research: Ausgelagerte AI-Inferenz macht Roboter erfolgreicher
TL;DR
Microsoft Research hat untersucht, was passiert, wenn Roboter ihre AI-Inferenz an stärkere GPUs im Edge oder in der Cloud abgeben, etwa Jetson Thor oder A100. Bei Aufgaben wie Kartierung, Navigation und Objektübergabe bremsten kleine Onboard-GPUs um bis zu 383 Prozent, und die Genauigkeit von VLA-Modellen fiel um die Hälfte. Mit ausgelagerter Inferenz stiegen die Erfolgsraten deutlich, und dank leichterer Hardware hielt der Akku mehr als doppelt so lange.
Nauti's Take
Für Robotik-Teams ist das ein echter Vorteil: Wer die schwere Rechenarbeit auslagert, bekommt leichtere, günstigere Roboter mit deutlich längerer Akkulaufzeit. Das Risiko steckt im Netzwerk, denn jede Funkstörung oder Latenzspitze trifft einen Roboter, der gerade greift oder fährt.
Profitieren dürften Lager, Labore und Fabriken mit stabilem WLAN oder 5G. Wer draußen oder in sicherheitskritischen Umgebungen arbeitet, braucht weiter eine lokale Rückfallebene.
Quellen