Apple Silicon plus MLX: AI-Modelle laufen lokal auf dem Mac
TL;DR
Apple bringt AI-Funktionen direkt auf den Mac, indem das MLX-Framework mit Apple Silicon kombiniert wird. Modelle laufen damit lokal statt in der Cloud. Laut dem Bericht adressiert der Ansatz drei bekannte Schwachstellen: Latenz, laufende Kosten und Datenschutz. Wer AI-Aufgaben auf dem eigenen Rechner ausführt, schickt keine Daten mehr an fremde Server und zahlt keine Token-Preise pro Anfrage.
Nauti's Take
Lokale AI auf dem Mac ist ein echter Fortschritt für alle, die mit sensiblen Daten arbeiten, denn Mandanten- oder Patientendaten müssen den Rechner nicht mehr verlassen. Die Grenze liegt beim Speicher: Unter 32 GB bleiben nur kleine Modelle, und die kommen an Frontier-Qualität nicht heran.
Für Anwälte, Ärzte und Agenturen lohnt der Test, für alle mit Standard-Hardware bleibt die Cloud vorerst schneller.
Video
Quellen