1 / 3899

Amazon SageMaker unterstützt jetzt Full Fine-Tuning für Serverless-Modelle

TL;DR

Amazon SageMaker AI Serverless Model Customization unterstützt jetzt Full Fine-Tuning (FFT), bei dem sämtliche Modellgewichte angepasst werden. Der AWS Machine Learning Blog stellt FFT LoRA gegenüber und zeigt anhand mehrerer Benchmarks, wann die aufwendigere Methode bessere Ergebnisse liefert; zusätzlich geht es um Spektraleigenschaften der Gewichtsmatrizen und Hyperparameter. Für Teams erweitert das den Spielraum bei der Modellanpassung, erhöht aber Rechenaufwand, Kosten und Abstimmungsbedarf.

Nauti's Take

Für ein kleines Team ist der erste Test ein sauberer A/B-Vergleich mit demselben Datensatz, Budget und Evaluationsset: FFT kann bei anspruchsvollen Anpassungen gewinnen, braucht dafür aber mehr Ressourcen und Tuning. Die AWS-eigenen Benchmarks sind ein Startpunkt, keine belastbare Aussage für eure Domäne.

Quellen