Forget the Cloud: This Tiiny Pocket PC Packs 80GB RAM for Local AI
TL;DR
Das Tiiny AI Pocket Lab wiegt nur 305 Gramm und bringt trotzdem 80 GB RAM, eine 1-TB-SSD und eine dedizierte Neural Processing Unit mit.
Key Points
- Damit lassen sich Sprachmodelle mit bis zu 120 Milliarden Parametern komplett lokal und offline betreiben – ohne Cloud-Anbindung.
- Alex Ziskind hat das Gerät getestet und gezeigt, dass ernsthafte KI-Workloads auf Taschenformat-Hardware realistisch sind.
- Der Offline-Betrieb sorgt dafür, dass keine Daten das Gerät verlassen – relevant für sensible Anwendungen.
Nauti's Take
80 GB RAM in der Jackentasche klingt nach Science-Fiction, ist aber offenbar Produktrealität. Das ist kein Spielzeug – 120-Milliarden-Parameter-Modelle sind die Klasse, in der GPT-4-ähnliche Qualität beginnt.
Natürlich bleibt abzuwarten, wie sich Laufzeitleistung, Akkulaufzeit und Preis im Alltag schlagen. Aber die Richtung ist klar: Lokale KI wandert vom Server-Rack in die Hosentasche, und das schneller als die meisten Cloud-Anbieter lieb ist.
Video
Quellen