SageMaker-Endpoints mit Auto Scaling per AWS CDK sicher aktualisieren
TL;DR
Ein registriertes Application Auto Scaling für einen SageMaker-AI-Endpunkt kann Updates über AWS CloudFormation und AWS CDK blockieren. Der AWS Machine Learning Blog beschreibt dafür ein wiederverwendbares CDK-Konstrukt mit CloudFormation Custom Resources: Vor der Änderung wird die Skalierungsregistrierung entfernt, danach automatisch wieder angelegt. So lassen sich Endpoint-Konfiguration und Auto Scaling in einem Deployment ausrollen.
Nauti's Take
Für kleine Teams ist das vor allem eine Deployment-Frage: Prüfe zuerst, ob eure Pipeline Endpoint-Änderungen und die Registrierung von Application Auto Scaling als voneinander abhängige Schritte behandelt. Das AWS-Konstrukt ist ein plausibler Startpunkt, aber die einzige Quelle ist der AWS-Blog; testet deshalb vor dem produktiven Einsatz Rollbacks, bestehende Alarmzustände und die Kostenwirkung zusätzlicher Kapazität.
Quellen
