Künstliche Intelligenz nimmt uns heute viele Aufgaben ab, von der Textzusammenfassung bis zur Urlaubsplanung. Doch wer die Routenplanung für eine anspruchsvolle Bergtour vollständig an einen Chatbot delegiert, begibt sich unter Umständen in Lebensgefahr. Diese Erfahrung mussten kürzlich drei unerfahrene Wanderer aus Kalifornien machen, die am Mount Shasta in eine Notlage gerieten und von der Bergrettung in Sicherheit gebracht werden mussten.

Unterversorgt und verspätet am Berg

Die dreiköpfige Gruppe hatte für die Besteigung des über 4.300 Meter hohen Vulkans unter anderem Google Gemini genutzt. Wie das Portal TechCrunch berichtet, unterschätzte die KI bei der Erstellung des Reiseplans die benötigte Menge an Nahrung und Wasser für die anspruchsvolle Tour erheblich. Zudem geriet der Zeitplan völlig aus den Fugen: Obwohl die Gruppe bereits um 3 Uhr morgens startete, erreichte sie den Gipfel erst gegen 19 Uhr abends – zu einer Zeit, in der erfahrene Bergsteiger längst wieder im sicheren Tal sein sollten. Beim Abstieg in der Dunkelheit verlor die Gruppe schließlich die Orientierung und musste die Nacht im unwegsamen Mud Creek Canyon verbringen, bevor Ranger sie am nächsten Morgen retteten.

Das Problem mit der plausiblen Halbwahrheit

Der Vorfall zeigt ein grundlegendes Problem von großen Sprachmodellen auf. Sie formulieren Antworten sprachlich hochgradig überzeugend und kaschieren damit jegliche Unsicherheit. Ein Chatbot berechnet Wahrscheinlichkeiten von Wortfolgen, er kennt jedoch keine physischen Grenzen, keine tagesaktuellen Wegsperrungen und kann die individuelle Fitness von Nutzern nicht einschätzen. Die scheinbar präzisen Mengenangaben für Wasser und Nahrung wogen die Wanderer in einer falschen Sicherheit, die sie schlussendlich wichtige Sicherheitsreserven ignorieren ließ.

Eine Frage der Eigenverantwortung

Zur Wahrheit gehört allerdings auch, dass die Schuld nicht allein bei der Technologie liegt. Die Wanderer nutzten neben Gemini auch YouTube und AllTrails und ignorierten etablierte Sicherheitsregeln wie die strikte Umkehrzeit am Mittag. Eine KI kann als kreativer Ideengeber für die Freizeit dienen. Bei sicherheitskritischen Aktivitäten darf sie jedoch niemals die einzige Informationsquelle sein. Vor jeder Bergtour ist der Abgleich mit lokalen Primärquellen – wie Rangerstationen, aktuellen Wetterdiensten und offiziellen Karten – überlebenswichtig.