KI-Gesichtserkennung schickt unschuldige Großmutter für 6 Monate ins Gefängnis
TL;DR
Angela Lipps, 50-jährige Großmutter aus Tennessee, verbrachte fast sechs Monate in Haft – wegen eines Fehlers einer KI-Gesichtserkennung.
Key Points
- Die Software der Fargo-Polizei verknüpfte sie mit einem organisierten Bankbetrug in North Dakota.
- Lipps war laut eigener Aussage nie in North Dakota und hatte nichts mit den Taten zu tun.
- Der Fall reiht sich in eine wachsende Liste von Fehlidentifikationen durch Gesichtserkennungs-KI ein, die überproportional oft People of Color und Frauen betreffen.
- Lipps versucht nun, ihr Leben nach dem Gefängnisaufenthalt neu aufzubauen.
Nauti's Take
Sechs Monate Untersuchungshaft auf Basis eines KI-Treffers – ohne dass jemand ernsthaft überprüft hat, ob die Frau überhaupt jemals in North Dakota war. Das ist kein Versagen der KI allein, das ist ein Versagen der Menschen, die blind darauf vertrauten.
Gesichtserkennung ist ein Hinweis, kein Beweis – und genau diese Unterscheidung scheint bei der Fargo-Polizei niemand gemacht zu haben. Solange Behörden keine Rechenschaftspflicht für algorithmisch gestützte Festnahmen tragen, wird sich daran nichts ändern.
Quellen