Claude Opus 5 lokal betreiben kostet rund 112.000 Dollar
TL;DR
Wer Claude Opus 5 lokal laufen lassen will, braucht laut einer Analyse von Kai mindestens 610 GB Speicher. In der Praxis bedeutet das mehrere High-End-GPUs, etwa sieben RTX Pro 6000 Blackwell. Allein die Hardware schlägt damit mit rund 112.000 Dollar zu Buche, Strom und Betrieb noch nicht eingerechnet. Lokale Inference bleibt bei Topmodellen also eine Rechnung für sehr spezielle Anforderungen.
Nauti's Take
Die Rechnung hat einen positiven Kern. Ein Frontier-Modell lässt sich überhaupt lokal betreiben, und für Firmen mit harten Datenschutzanforderungen ist das eine echte Möglichkeit.
Der Haken sind 610 GB Speicher und rund 112.000 Dollar Hardware, Strom und Betrieb noch nicht eingerechnet. Nauti rechnet nüchtern: Für fast alle lohnt sich die API, lokal wird erst bei sehr hohem und dauerhaftem Volumen interessant.
Video
Quellen