Neuer Mac Studio M5 Ultra: die beste Maschine für lokale AI?
TL;DR
Apple hat mit dem Mac Studio M5 Ultra und dem Mac Mini M5 Pro zwei Rechner vorgestellt, die lokale AI-Workloads stemmen sollen. Der Mac Studio M5 Ultra kommt auf 1,2 TB/s Speicherbandbreite, den entscheidenden Wert, wenn du große Language Models komplett im Arbeitsspeicher laufen lassen willst. Manolo Remiddi hat die Specs im Detail aufgeschlüsselt und vergleicht, wo sich der Aufpreis gegenüber dem Mac Mini M5 Pro überhaupt lohnt.
Nauti's Take
1,2 TB/s Speicherbandbreite sind der eigentliche Fortschritt, weil damit große Modelle lokal laufen, ohne dass Daten je das Gerät verlassen. Das Risiko ist der Preis pro Token: Für gelegentliche Inferenz bleibt die API deutlich günstiger, und die Hardware altert schneller als jeder Abschreibungsplan.
Sinnvoll wird die Anschaffung für Teams mit sensiblen Daten oder dauerhaft hoher Auslastung, nicht für Experimente am Feierabend.
Video
Quellen