Wenn ChatGPT Allergie-Warnungen im Restaurant aushebelt
TL;DR
In New York berichten Servicekräfte von Gästen, die Warnungen zu Allergenen mit Verweis auf ChatGPT zurückweisen. Eine Kellnerin schildert, dass Gäste trotz einer angegebenen Schalentierallergie Gerichte mit entsprechender Brühe bestellen wollten, weil ChatGPT den Zusammenhang angeblich verneint habe.
Nauti's Take
Für AI-Workflows mit Gesundheits- oder Sicherheitsbezug gehört eine Quellen- und Zuständigkeitsgrenze ins Design: Chatbots dürfen Hinweise liefern, aber keine fachliche Freigabe ersetzen. Kleine Teams sollten zuerst testen, wie das System bei widersprüchlichen Angaben reagiert, Unsicherheit markiert und Nutzer an eine verlässliche Primärquelle verweist.
Quellen