Trial-and-Error-Training soll schwächere AI-Modelle ohne menschliche Lehrer verbessern
TL;DR
Ein Bericht über Trelis Research beschreibt einen neuen Ansatz für das Training schwächerer AI-Modelle. Der Lernprozess setzt stärker auf Versuch und Irrtum sowie Verfahren wie Group Relative Policy Optimization (GRPO) und hint-basiertes Lernen. Modelle verbessern ihre Antworten dabei anhand von Gruppenvergleichen oder gezielten Hinweisen. Für die Praxis könnten dadurch weniger hochwertige Lehrerbeispiele nötig sein, konkrete Vorteile bei Kosten, Qualität und Stabilität müssen jedoch noch belegt werden.
Nauti's Take
Für kleine Teams ist der erste Test überschaubar: Ein schwächeres Modell mit derselben Aufgabe einmal per Supervised Fine-Tuning und einmal mit GRPO oder hint-basiertem Lernen trainieren, dann Erfolgsquote, Tokenverbrauch und menschliche Korrekturzeit vergleichen. Vor einer Umstellung sollte die Bewertungsfunktion geprüft werden, denn Trial-and-Error-Lernen optimiert genau das Signal, das ihr Setup vorgibt.
Video
Quellen
