Amazon SageMaker AI startet Trainingsjobs jetzt mit Instanz-Präferenzlisten
TL;DR
Amazon SageMaker AI unterstützt ab sofort Präferenzlisten für Trainings- und Processing-Jobs. Du gibst bis zu fünf Instanztypen in einer Rangfolge an, SageMaker startet den Job automatisch auf dem ersten Typ mit freier Kapazität. Ist gerade nichts frei, landet der Job in einer Warteschlange und startet, sobald Kapazität verfügbar ist. Reservierte Kapazität aus Flexible Training Plans wird zuerst genutzt, mit MaxPendingTimeInSeconds begrenzt du die Wartezeit.
Nauti's Take
Für Teams, die ständig um knappe GPUs kämpfen, ist das ein echter Vorteil: kaum noch Bastelskripte, schnellerer Start und reservierte Kapazität zuerst. Das Risiko liegt im Detail, denn SageMaker prüft nicht, ob dein Container auf allen fünf Instanztypen gleich läuft.
Wer verteiltes Training fährt, sollte jede Option vorher testen und die Kosten pro Typ im Blick behalten.
Quellen
