Dieser Browser zeigt jede Zahl hinter einem GPT-Modell live an
TL;DR
Ein interaktives Open-Source-Projekt visualisiert einen kleinen GPT-2-ähnlichen Transformer vollständig im Browser. Jede Matrix passt auf den Bildschirm, jede Zahl wird live berechnet und per Hover lässt sich die Mathematik einzelner Schritte nachvollziehen. Die Demo führt durch die Generierung eines Tokens von der Tokenisierung bis zum Sampling, einen Pretraining-Schritt und eine PPO-Iteration für RLHF.
Nauti's Take
Als Lern- und Debugging-Experiment lohnt sich ein kurzer Test: Einen Token Schritt für Schritt verfolgen und anschließend prüfen, ob sich die Erklärung auf ein eigenes Modellverständnis übertragen lässt. Die Quellenbasis ist dünn, da das Projekt auf Hacker News bislang kaum Resonanz hat.
Aussagen über RLHF sollten deshalb als didaktische Vereinfachung gelesen und gegen die Implementierung im Repository geprüft werden.
Quellen