Ärzte fordern Haftungsschutz für AI-Fehler im Krankenhaus
TL;DR
Der US-Ärzteverband American Medical Association fordert neue Bundes- und Landesgesetze: Ärzte sollen vor Haftung geschützt werden, wenn eingesetzte AI-Produkte Patienten schädigen. Gleichzeitig verlangt der Verband von AI-Anbietern eine ausreichende Haftpflichtversicherung. Hintergrund ist, dass AI zunehmend Empfehlungen liefert und medizinische Aufgaben mit weniger direkter Kontrolle übernimmt. Damit wird die Zuständigkeit bei Fehlentscheidungen unklarer.
Nauti's Take
Für kleine Teams im Gesundheitsbereich gehört die Haftungsfrage vor jeden Produktivtest: Wer prüft die Empfehlung, wer dokumentiert die Entscheidung und was passiert beim Ausfall? Solange nur ein Bericht vorliegt und der Gesetzestext fehlt, sollten AI-Anbieter vor allem nach Audit-Logs, menschlicher Freigabe und belastbarer Versicherungsdeckung bewertet werden.
Quellen