Studie: Sprachmodelle entwickeln bei Bewerbungen eigene Verzerrungen
TL;DR
Eine neue Untersuchung zeigt, dass große Sprachmodelle im Recruiting nicht nur bekannte menschliche Vorurteile aus Trainingsdaten übernehmen, sondern im Auswahlprozess zusätzliche Verzerrungen entwickeln können. Laut MIT Technology Review betrifft das ausgerechnet einen Bereich, in dem AI oft als objektiver Filter verkauft wird. Das ist relevant, weil viele Unternehmen Bewerbungen bereits automatisiert vorsortieren lassen, bevor jemand aus dem Team sie prüft.
Nauti's Take
Wer AI fürs Screening testet, sollte zuerst prüfen, ob identische Lebensläufe mit kleinen Änderungen bei Name, Lücke im CV oder Ausbildungsweg anders bewertet werden. Genau dort wird aus Effizienz schnell ein stiller Qualitätsfehler, der kaum auffällt, wenn nur auf Durchsatz und Kosten geschaut wird.
Quellen