Apple Silicon: Lokale AI-Modelle laufen auf dem Mac mit deutlich weniger RAM
TL;DR
Geeky Gadgets sieht Apples Fokus auf lokale AI-Verarbeitung als Vorteil für Macs. Der Grund ist der Unified Memory von Apple Silicon: CPU, GPU und Neural Engine teilen sich seit dem M1 einen gemeinsamen Speicher. Mit Tools wie LM Studio laufen kleine Llama-Modelle etwa für Commit-Messages, Doku-Zusammenfassungen oder Testskripte. Lange Agenten-Sessions und mehrstufiges Tool Calling bleiben lokal aber holprig, und der verbaute Speicher entscheidet, welche Modelle überhaupt laufen.
Nauti's Take
Lokale Modelle auf dem Mac sind eine echte Chance für alle, die Code oder Dokumente lieber auf dem eigenen Gerät behalten. Der Haken: Die Schlagzeile mit siebenmal weniger RAM belegt der Artikel mit keiner Messung, und für Agenten-Workflows reichen lokale Modelle laut Text noch nicht.
Für kleine Routineaufgaben lohnt der Test mit LM Studio, wer einen neuen Mac kauft, sollte beim Speicher eher großzügig planen.
Video
Quellen