Kleine AI-Modelle gewinnen weltweit an Zugkraft
TL;DR
IEEE Spectrum zeigt Small AI als Gegenentwurf zum Rechenzentrum-Hype: Modelle laufen lokal auf Phones, Drohnen, Arduino-Boards oder Raspberry Pi und brauchen oft nur wenige Watt. RxAlls RxScanner prüft Medikamente per Infrarot-Spektrometer und AI-Datenbank. Nach einem Demo-Ausfall in Südafrika wurde das Modell so verkleinert, dass es ohne US-Server auf einem Android-Phone lief.
Nauti's Take
Der spannendste Teil ist nicht, dass kleine Modelle plötzlich sexy sind. Spannend ist, dass sie die ehrliche Form von AI erzwingen: enger Use Case, klare Daten, lokale Ausführung, messbarer Nutzen.
Für Teams in Europa steckt darin auch eine Lektion. Wer jeden internen Workflow sofort an ein Frontier-Modell hängt, baut oft teurer und fragiler als nötig.
Die bessere Frage lautet: Welche Aufgabe ist klein genug, um zuverlässig lokal oder günstig am Edge zu laufen?
Einordnunganzeigen
Die Story dreht den üblichen AI-Blick um: Nicht jedes Problem braucht das größte Modell, viele brauchen ein Modell, das dort läuft, wo die Arbeit passiert. Gerade für Gesundheit, Landwirtschaft und Diagnostik ist Latenz keine Komfortfrage. Wenn ein Scan fünf Minuten braucht oder das Netz ausfällt, entscheidet Edge-AI über Nutzen oder nutzlose Demo.
Quellen