Können wir AI davon abhalten, uns zu täuschen?
TL;DR
Ein Long Read im Guardian geht der Frage nach, ob sich Täuschung durch AI-Modelle verhindern lässt. Menschen sind es gewohnt, dass andere Menschen manipulieren, bei Maschinen wirkt dasselbe Verhalten deutlich verstörender. Der Text spannt den Bogen vom AI-Safety-Gipfel in Bletchley Park 2023, bei dem Kamala Harris, Sam Altman, Dario Amodei und Delegationen aus 28 Ländern zusammenkamen, bis zur heutigen Forschung an Alignment und Kontrollmechanismen.
Nauti's Take
Der Text ist eine der wenigen gut recherchierten Einordnungen zum Thema Täuschung durch Modelle, und das Forschungsfeld ist vielversprechend genug, dass Anthropic und OpenAI eigene Teams dafür bezahlen. Der Haken ist die Dramaturgie: Einzelbefunde aus Laborsettings lesen sich schnell wie Absicht, obwohl sie oft nur schlecht spezifizierte Ziele abbilden.
Für Firmen mit Agenten im Einsatz ist es trotzdem der richtige Moment, Logs und Freigaben ernst zu nehmen.
Quellen