AWS bringt nutzungsbasierte Abrechnung für SageMaker-Streaming
TL;DR
AWS Marketplace unterstützt jetzt nutzungsbasierte Abrechnung für bidirektionales Streaming in Amazon SageMaker AI. Anbieter können ihre Modelle damit nach dem tatsächlichen Verbrauch während eines laufenden Streams abrechnen, statt nur nach einem pauschalen Modell oder Endpunkt. Zum Start ist Deepgram dabei und bietet Speech-to-Text sowie Text-to-Speech mit verbrauchsabhängiger Abrechnung an.
Nauti's Take
Für einen kleinen AI-Stack ist das vor allem ein Test für die Kostenkontrolle: Messt bei Deepgram zuerst Minuten, parallele Streams und Abbrüche gegen eure heutigen API-Kosten. Ungeklärt bleibt, wie transparent AWS Marketplace die Verbrauchsdaten und mögliche Zusatzkosten im laufenden Betrieb ausweist.
Quellen
