Wandelaars stranden op Mount Shasta na routeplan van Gemini

Drie onervaren wandelaars uit Roseville zijn maandag van Mount Shasta gehaald nadat ze hun beklimming grotendeels met Google Gemini hadden voorbereid. Het bureau van de sheriff van Siskiyou County wijst in zijn verklaring rechtstreeks naar het advies van de chatbot: de groep vertrok met veel te weinig eten en water.

Wat er misging op de Clear Creek Route

Het drietal vertrok zondag om drie uur ’s nachts met dagrugzakjes richting de top en rekende op een klim van acht uur. Op Mount Shasta luidt het standaardadvies om rond het middaguur om te keren, ongeacht hoe ver je bent. De groep stond pas rond zeven uur ’s avonds boven en begon in het donker aan de afdaling. Een uur later belden ze om routeaanwijzingen, waarna ze toch in Mud Creek Canyon belandden. Een van hen bezeerde zijn knie. Ze brachten de nacht in de canyon door tot klimrangers van de US Forest Service hen de volgende ochtend vonden. Alle drie kregen medische zorg en liepen op eigen kracht terug naar het beginpunt, schrijft ABC News.

De sheriff noemt het leunen op de chatbot een kritieke misstap. Gemini adviseerde volgens de verklaring beduidend minder proviand mee te nemen dan de groep nodig had, en die marge verdween helemaal toen de dagtocht een tweedaagse werd. TechCrunch tekende op dat de rangers de zaak naar buiten brachten juist omdat het planningsadvies uit een chatbot kwam.

Waarom een chatbot slecht scoort op dit soort vragen

Een taalmodel geeft een vlot en zelfverzekerd antwoord op de vraag hoeveel water je meeneemt, ook als het de actuele sneeuwgrens, de conditie van de groep of de sluitingstijd van een route niet kent. Die zelfverzekerde toon is precies het probleem. Uit recent onderzoek bleek al dat chatbots onwaarheden herhalen in tot 12 procent van de gesprekken, en dat het risico oploopt naarmate een gesprek langer duurt. Een tochtplanning is zo’n lang gesprek.

Het gebruik zit intussen diep in het dagelijks leven. Google schoof Gemini dit jaar naar voren als opvolger van de Assistent, waardoor de chatbot bij miljoenen mensen standaard op de telefoon staat. Pew Research telde eerder dat een op de drie Amerikanen AI om gezondheidsadvies vraagt. Wie zijn bloeddruk aan een model voorlegt, legt er ook een bergroute aan voor.

Wat de rangers adviseren

De sheriff van Siskiyou County geeft drie praktische punten mee: keer uiterlijk rond twaalf uur om, controleer je route regelmatig zonder blind op gps of telefoon te varen, en bel vooraf het ranger station van Mount Shasta voor actuele informatie. De verklaring sluit af met de zin dat je nooit uitsluitend op AI moet vertrouwen bij het plannen van een tocht.

Dat is geen pleidooi tegen de techniek. Chatbots doen sommige dingen aantoonbaar goed: NewsGuard en NPR stelden vast dat chatbots propaganda beter weerleggen dan zoekmachines. Het verschil zit in verifieerbaarheid. Een bewering over een nieuwsfeit kun je binnen een minuut nachecken. Een getal voor liters water blijkt pas fout als je halverwege de berg zit.

Wat betekent dit

Deze zaak levert een zeldzaam concreet voorbeeld op van AI-advies dat fysiek misgaat, met een naam, een datum en een reddingsactie eraan vast. Voor Google is het lastig te pareren, want Gemini weigert dit soort vragen niet en geeft geen waarschuwing die in verhouding staat tot het risico. Voor gebruikers is de les prozaïsch: gebruik een model om je vragen scherp te krijgen, en haal het antwoord bij de partij die de omstandigheden van vandaag kent. Bij een berg is dat de ranger, niet het model.