KI bei Versicherungen: Anträge werden in Sekunden abgelehnt – ohne menschliche Prüfung
TL;DR
Versicherungskonzerne in den USA setzen KI-Systeme ein, um Schadensfälle schneller abzulehnen – teilweise werden Anträge in Sekunden abgewiesen, ohne dass ein Mensch den Fall geprüft hat.
Key Points
- Systeme wie das von Cigna genutzte PxDX-Tool sollen es ermöglicht haben, Tausende Anträge pro Stunde zu verarbeiten und abzulehnen – mit minimaler menschlicher Aufsicht.
- Kritiker und Anwälte warnen: Die Geschwindigkeit der Ablehnungen soll gezielt dazu dienen, Widersprüche zu verhindern, da viele Versicherte den Aufwand scheuen.
- In den USA laufen mehrere Klagen gegen Versicherer, die KI-gestützte Ablehnungsquoten nutzen sollen, um Auszahlungen systematisch zu reduzieren.
- Regulatorischer Druck wächst, aber konkrete Gesetze zum Schutz der Versicherten vor automatisierten Entscheidungen fehlen bislang weitgehend.
Nauti's Take
Das ist eines der deutlichsten Beispiele dafür, dass KI nicht neutral ist – sie optimiert auf das Ziel, das ihr gegeben wird. Wenn das Ziel 'Kosten senken' lautet, senkt die KI Kosten, egal was dabei auf der Strecke bleibt.
Versicherungen verkaufen Sicherheit, und wenn ein Algorithmus diese Sicherheit systematisch unterläuft, ist das kein technisches Problem, sondern ein ethisches und regulatorisches Versagen. Die Branche wird sich nicht freiwillig zurückhalten – hier braucht es klare gesetzliche Grenzen, Audit-Pflichten und echte Haftung für automatisierte Entscheidungen, die Menschen schaden.
Quellen