Vandrarna skulle bestiga Mount Shasta i Kalifornien och tog hjälp av Googles AI för att planera rutten och packningen. Enligt Siskiyou County Sheriff’s Office hade gruppen fått uppfattningen att turen skulle ta omkring åtta timmar.
De tre männen lämnade sitt läger klockan tre på morgonen med mindre dagryggsäckar. De nådde toppen först klockan 19, sju timmar efter den rekommenderade tiden för att vända tillbaka.
Annons
Nedstigningen började i mörker
Ungefär en timme efter att gruppen påbörjat nedstigningen ringde vandrarna sheriffkontoret för att be om vägbeskrivning. De lämnade senare den planerade rutten och hamnade i Mud Creek Canyon på bergets sydöstra sida.
En av männen föll och skadade sitt knä. Gruppen tvingades stanna över natten i den branta terrängen med mycket lite skydd och otillräckliga mängder mat och vatten.
Nästa morgon nådde klättringsvakter från den amerikanska skogsförvaltningen fram till gruppen och gav den skadade mannen vård. Sheriffkontorets frivilliga räddningsstyrka hjälpte därefter alla tre tillbaka till startpunkten.
Efter räddningen berättade en av männen att gruppen hade använt Gemini för att få information om rutten och vilken utrustning de behövde ta med sig.
Sheriffkontoret beskriver beslutet som ett allvarligt misstag. Enligt myndigheten rekommenderade Gemini betydligt mindre mat och vatten än gruppen kom att behöva när den planerade dagsturen utvecklades till ett flera dagar långt äventyr.
Ett rimligt svar kan fortfarande vara farligt
Det går inte att fastställa exakt vilka frågor vandrarna ställde, hur Gemini formulerade svaren eller vilken information gruppen gav AI-tjänsten. Det är därför inte möjligt att slå fast att ett enskilt AI-svar ensamt orsakade händelsen.
Problemet var inte heller bara att Gemini gav ett för optimistiskt svar. Gruppen använde ett allmänt AI-verktyg som ersättning för lokala experter, aktuella förhållanden och en plan för vad som skulle hända om något gick fel.
En språkmodell sammanställer sitt svar utifrån mönster i träningsdata och information som tjänsten kan hämta. Den har inte automatiskt tillgång till vandrarens erfarenhet, fysiska förmåga, packning eller de exakta förhållandena på berget.
Ett svar kan därför låta detaljerat och övertygande utan att vara tillräckligt säkert för situationen. Om användaren inte känner till ämnet blir det dessutom svårt att upptäcka vilka viktiga varningar som saknas.
Räddningstjänsten varnar för att lita på mobilen
Clear Creek Route räknas inte som en tekniskt avancerad klättringsled. Den kräver ändå god fysisk förmåga och beredskap för skador, snabbt förändrat väder och en oplanerad natt på berget.
Myndigheterna varnar särskilt för Mud Creek Canyon. Vandrare som lämnar leden kan hamna i betydligt farligare terräng, och området har tidigare drabbats av allvarliga olyckor.
Sheriffkontoret rekommenderar att besökare kontaktar Mount Shastas lokala klättringsvakter före turen. Vandrare bör även ha flera sätt att navigera och regelbundet kontrollera att de fortfarande befinner sig på rätt väg.
Händelsen visar att AI kan vara ett användbart verktyg i den tidiga planeringen, men inte bör vara den enda källan när ett felaktigt råd kan leda till en nödsituation.