NHS-Aufsicht warnt: AI-Mitschriften verwechseln Medikamente und Diagnosen
TL;DR
AI-Systeme, die Arztgespräche mitschreiben, geben Medikamenten- und Krankheitsnamen falsch wieder und bringen damit Patientinnen und Patienten in Gefahr. Das berichtet die NHS-Aufsicht Healthwatch England in einer exklusiv veröffentlichten Auswertung. In einem Fall stand in der AI-Zusammenfassung fälschlich eine Demyelinisierung, also ein schwerer Nervenschaden, der zu Multipler Sklerose führen kann.
Nauti's Take
Der Fortschritt liegt in der Transparenz: Dass Healthwatch England die Fehler von AI-Mitschriften systematisch dokumentiert, macht ein Risiko sichtbar, das sonst in Akten verschwindet. Das Problem ist gravierend, denn ein falscher Eintrag wie Demyelinisierung im Protokoll kann Behandlungen und Menschen aus der Bahn werfen.
Praxen sollten Transkripte gegenlesen lassen, bevor sie in die Patientenakte wandern, und für Betroffene lohnt der Blick in die eigene Zusammenfassung.
Quellen