Sainsbury's stoppt AI-Gesichtsscan nach falschem Diebstahlsverdacht
TL;DR
Die britische Supermarktkette Sainsbury's hat den Einsatz von AI-Gesichtserkennung in einer Filiale ausgesetzt, nachdem ein Kunde fälschlich als Ladendieb erkannt und des Ladens verwiesen wurde. Der 46-jährige Matt Arnold beschreibt die Situation als demütigend und beschämend. Sainsbury's macht menschliches Versagen verantwortlich und verteidigt die eingesetzte Facewatch-Technologie. Der Fall zeigt, wie dünn die Prozesse rund um biometrische Systeme im Einzelhandel oft sind.
Nauti's Take
Dass Sainsbury's das System nach einem einzigen Fehltreffer stoppt, ist ein Vorteil für alle, die auf funktionierende Beschwerdewege angewiesen sind, und ein seltenes Beispiel für schnelle Korrektur. Die Grenze wird trotzdem sichtbar: Ein Treffer aus der Datenbank landete ohne belastbare Zweitprüfung direkt beim Personal, das dann handelte.
Wer biometrische Erkennung im Handel plant, sollte zuerst den Eskalationspfad definieren, bevor die Kameras scharf geschaltet werden.
Quellen