Twigg veröffentlicht stateful LLM-API für AI-Workspaces über mehrere Anbieter hinweg
TL;DR
Das Team hinter Twigg veröffentlicht eine API, die Chat-Kontext dauerhaft verwaltet und dabei mehrere LLM-Anbieter unterstützt. Entwickler senden eine neue Eingabe oder ein Tool-Ergebnis zusammen mit einer Chat-ID, während Twigg Verlauf, Schema-Unterschiede und Kontextaufbereitung übernimmt. Der Modellwechsel soll sich über ein einzelnes Feld in der nächsten Anfrage erledigen lassen.
Nauti's Take
Für ein kleines Team ist Twigg einen begrenzten Prototyp-Test wert: Einen bestehenden Workflow mit zwei Modellanbietern anbinden und prüfen, wie gut Tool-Aufrufe, lange Verläufe, Fehlerfälle und ein Anbieterwechsel funktionieren. Vor einer produktiven Nutzung müssen Datenstandort, Löschkonzept, Exportierbarkeit und die Kosten pro gespeicherter Session geklärt werden.
Quellen