Kaiser-Therapeuten: KI-Screening verzögert Versorgung und gefährdet Patienten
TL;DR
Kaiser Permanente führte im Januar 2024 ein neues KI-gestütztes Screening-System für psychische Erkrankungen ein – seitdem beklagen Therapeutinnen massive Verzögerungen bei der Patientenversorgung.
Key Points
- Lizenzierte Fachkräfte waren früher fast immer der erste Kontaktpunkt für Patienten mit psychischen Problemen; das hat sich laut Streikenden geändert.
- Klinische Sozialarbeiterin Ilana Marcucci-Morris berichtet, sie sehe Patienten, die eigentlich wochenlang früher in die Notaufnahme gehört hätten.
- Kaiser bestreitet die Vorwürfe und behauptet, rechtzeitig hochwertige Versorgung zu liefern – streikende Mitarbeitende widersprechen dem deutlich.
Nauti's Take
Wenn erfahrene Kliniker sagen 'Gott sei Dank leben sie noch', ist das kein Qualitätsmerkmal eines Systems – das ist ein Alarmsignal. Kaiser verkauft das KI-Screening vermutlich intern als Effizienzgewinn; was dabei rauskommt, klingt eher nach Haftungsminimierung auf Kosten der Schwächsten.
Dass ausgerechnet streikende Mitarbeitende die einzigen sind, die laut darüber reden, sagt viel über die Transparenzkultur im US-Gesundheitswesen aus. KI in der Psychiatrie ist nicht per se falsch – aber als Torwächter ohne klinisches Korrektiv ist sie gefährlich.
Hintergrund
Dieses Beispiel zeigt, was passiert, wenn KI-Triage-Systeme im Gesundheitswesen ohne ausreichende klinische Aufsicht eingesetzt werden: Menschen in akuten psychischen Krisen fallen durch das Raster. Anders als bei einem Algorithmus, der eine Filmempfehlung falsch trifft, können Fehler hier Leben kosten. Der Fall Kaiser Permanente könnte zum Präzedenzfall werden – sowohl für Regulierung als auch für Gewerkschaftsverhandlungen rund um KI im Gesundheitswesen.
Quellen