Gerüchte: M5 Ultra Mac Studio soll 100B-Modelle lokal ausführen
TL;DR
Apples gemunkelter Mac Studio mit M5 Ultra Chip soll laut Bericht 5.499 Dollar kosten und sich an Profis richten, die mit mittelgroßen AI-Modellen arbeiten. Laut einer Analyse von The Stack, über die Geeky Gadgets berichtet, könnte das Gerät Modelle mit bis zu 100 Milliarden Parametern lokal ausführen. Damit ließen sich etwa große Datensätze zusammenfassen, ohne Daten in die Cloud zu schicken. Specs und Preis beruhen auf Gerüchten und sind von Apple unbestätigt.
Nauti's Take
100B-Modelle lokal auf dem Schreibtisch wären ein echter Fortschritt für alle, die Daten aus Datenschutzgründen im Haus behalten müssen. Das Problem: Bisher sind Preis und Leistung Gerüchte, und mittelgroße lokale Modelle bleiben bei komplexen Aufgaben hinter den besten Cloud-Modellen zurück.
Wer jetzt Hardware plant, rechnet besser mit offiziellen Specs und eigenen Benchmarks.
Video
Quellen