Gemini soll Bergsteigern den Aufstieg auf den Mount Shasta völlig falsch eingeschätzt haben
TL;DR
Gemini soll einer Gruppe von Bergsteigern für den Aufstieg auf den Mount Shasta eine Dauer von rund acht Stunden genannt haben. Die Gruppe musste laut einem Bericht von Engadget mehr als einen Tag später gerettet werden. Der Fall zeigt, wie riskant AI-Antworten bei Aktivitäten sind, deren Verlauf von Wetter, Route, Fitness, Ausrüstung und Erfahrung abhängt. Die konkrete Darstellung ist bislang nur über einen einzelnen Medienbericht belegt und sollte daher mit Vorsicht eingeordnet werden.
Nauti's Take
Für sicherheitskritische Planung gehört eine AI höchstens in die Vorrecherche. Zeitangaben müssen vor dem Start mit offiziellen Routeninformationen, aktuellen Wetterdaten, erfahrenen lokalen Quellen und einem realistischen Notfallpuffer abgeglichen werden, weil ein plausibel formulierter Plan keine belastbare Einschätzung der Bedingungen ersetzt.
Quellen