RTX 3090 schlägt Mac Studio mit 64 GB: 140 TPS für lokale AI
TL;DR
Wer lokale AI-Modelle wie Qwen 3.6 mit 35 Milliarden Parametern betreiben will, muss Leistung, Speicher und Kosten abwägen. The Stack vergleicht dazu einen selbstgebauten PC mit RTX 3090 und einen Mac Studio mit M5 Max und 64 GB. Der PC erreicht rund 140 Tokens pro Sekunde und liegt damit vorn, während der Mac beim Speicher und Stromverbrauch Vorteile behält.
Nauti's Take
Eine gebrauchte RTX 3090 bringt lokale AI auf ein überraschend gutes Tempo und ist für Bastler ein günstiger Einstieg. Der Haken: Die Karte hat begrenzten VRAM, frisst Strom und macht Lärm, große Modelle brauchen dann trotzdem mehr Speicher.
Wer maximale Geschwindigkeit will, greift zum PC, wer Ruhe und große Kontexte braucht, prüft den Mac genauer.
Video
Quellen