NVIDIA beschleunigt Googles DiffusionGemma für lokale KI auf RTX-Systemen
TL;DR
Google DeepMind hat DiffusionGemma veröffentlicht, ein experimentelles offenes Modell für besonders schnelle Textgenerierung. NVIDIA hat das Modell für GeForce RTX GPUs, RTX PRO Plattformen und DGX Spark Systeme optimiert, von lokalen PCs bis zur Cloud. Statt Text Wort für Wort zu erzeugen, generiert DiffusionGemma mehrere Wörter parallel und liefert ganze Textblöcke mit niedriger Latenz.
Nauti's Take
DiffusionGemma ist kein netter Benchmark-Trick, sondern ein Angriff auf die alte Token-für-Token-Trägheit. Wenn lokale RTX-Kisten plötzlich ganze Textblöcke schnell ausspucken, werden Agenten, IDE-Copiloten und On-Device-Tools spürbar weniger zäh.
Quellen