Ved baut einen lokalen AI-Sprachassistenten für zu Hause
TL;DR
Ved ist ein lokaler Offline-AI-Agent für Windows, Linux und macOS. Das Repo nennt 12 GB VRAM und 32 GB RAM als Ziel für lokale Modelle; mit OpenRouter-Cloud-Fallback soll es auch auf 4 GB VRAM und 16 GB RAM laufen. Enthalten sind Tkinter-Desktop-UI, FastAPI-Server mit SSE, LangGraph-Orchestrierung, Modi wie standard, turbo und coder, per-Thread-RAG, Datei-Uploads, Script-Ausführung und Human-in-the-loop-Freigaben für riskante Tool-Aktionen.
Nauti's Take
Gute Richtung, aber noch klar Maker-Projekt statt fertiger Haushaltsassistent. Die README ist konkreter als der HN-Pitch: Hardware-Ziele, Modellwege, API, UI und Telemetrie sind benannt.
Genau dort liegt auch die Messlatte. Wer lokalen Datenschutz verspricht, muss Fernzugriff, Telemetrie, Tool-Rechte und Update-Pfade extrem sauber erklären, sonst wird aus offline schnell nur selbstgehostetes Risiko.
Einordnunganzeigen
Ved trifft einen echten Nerv: Viele wollen einen Sprachassistenten, der nicht jede Anfrage an Big-Tech-Server schickt und trotzdem auf normaler Hardware läuft. Spannend ist weniger der Jarvis-Vergleich als die Kombination aus lokaler Sprache, RAG, Coding-Lane und Tool-Freigaben. Der Haken: Multiroom-Audio, Fernzugriff und lokale Tool-Ausführung machen daraus schnell ein Sicherheits- und Wartungsprojekt.
Quellen