8 / 3891

Decision Models sollen Halluzinationen in AI-Systemen verhindern

TL;DR

Das Startup TypeSafe AI hat am 15. September das Modell Jev vorgestellt und nennt es ein System-One-Modell. Jev soll günstiger und schneller arbeiten und keine Halluzinationen erzeugen, also keine faktisch falschen Antworten ausgeben. Die Angaben stammen bisher vor allem aus dem Unternehmensmarketing, während IEEE Spectrum nur einen Ausschnitt der Entwicklung beschreibt.

Nauti's Take

Für produktive Workflows ist die Fehlerfreiheit von Jev derzeit eine Behauptung, keine belastbare Eigenschaft. Kleine Teams sollten zuerst dieselben Aufgaben mit Jev und ihrem aktuellen Modell testen, dabei Quellen, Kosten pro Vorgang und Fehlerraten dokumentieren und besonders prüfen, wie das System Unsicherheit signalisiert.

Quellen