FastRecall will Kontext zwischen AI-Modellen speichern, ab 2 Dollar pro Monat
TL;DR
Ein ehemaliger OpenAI-Mitarbeiter hat FastRecall vorgestellt, eine API für günstige Speicherung und Wiederverwendung von Kontext über verschiedene AI-Modelle hinweg. Der Dienst soll mit Modell-Aggregatoren wie OpenRouter funktionieren, Provider-Caching berücksichtigen und mit FlashCompact eine modellunabhängige Verdichtung anbieten. Laut Anbieter sind Abrufe kostenlos, kostenpflichtige Tarife starten bei 2 Dollar pro Monat.
Nauti's Take
Für einen kleinen AI-Stack lohnt sich ein Test mit einem realen Workflow: Kontext speichern, zwischen zwei Modellen übertragen und prüfen, wie gut Caching, Löschung, Export und Zugriffskontrollen funktionieren. Entscheidend sind die tatsächlichen Tokenkosten, die Datenhaltung und die Frage, ob FlashCompact bei wichtigen Projekten verlässlich genug bleibt.
Die günstigen Tarife sind erst interessant, wenn diese Punkte dokumentiert sind.
Quellen