En Californie, une planification par IA tourne au sauvetage en montagne

Trois jeunes randonneurs ayant planifié un parcours en montagne en Californie à l'aide de l'intelligence artificielle Gemini de Google se sont retrouvés bloqués toute une nuit après avoir sous-estimé la durée et la difficulté de l'itinéraire. L'excursion, qui s'est déroulée fin août sur le mont Shasta dans le nord de la Californie, devait durer huit heures selon les prévisions de l'IA. Il leur a toutefois fallu environ seize heures rien que pour atteindre le sommet.

À la tombée de la nuit, le groupe a perdu le sentier et l'un des randonneurs s'est blessé au genou. Privés d'équipements adaptés, de nourriture et d'eau en quantité suffisante, les trois randonneurs ont dû passer la nuit sur la montagne avant d'être secourus le lendemain matin. Les équipes de secours soulignent que cet incident illustre les risques croissants liés à une dépendance excessive aux agents conversationnels lors d'activités en plein-air.

Une adoption croissante de l'IA pour la planification

Selon une enquête publiée par High Country News, les services de secours américains constatent une recrudescence de situations périlleuses causées par l'utilisation d'outils d'IA générative. Nick Meyers, du Service des forêts des États-Unis, a relaté le cas d'une campeuse installant sa tente près d'un panneau d'interdiction, affirmant que l'intelligence artificielle lui en avait donné l'autorisation. Dans un autre cas, des gardes forestiers ont rencontré un randonneur naviguant à l'aide d'une carte générée par IA plaçant des repères géographiques du mauvais côté de la montagne.

Les données statistiques confirment cette tendance. Chip Jenkins, directeur du parc national de Grand Teton dans le Wyoming, a indiqué que la proportion de visiteurs consultant l'IA pour préparer leurs randonnées est passée de zéro à 26 % en un an. Des incidents similaires surviennent également à l'international, à l'instar du sauvetage par hélicoptère début octobre d'un adolescent de 16 ans, Bryce Vincent Gauriluk, bloqué sur une corniche dangereuse du mont Crown en Colombie-Britannique après avoir consulté l'assistant Claude d'Anthropic.

Recommandations des équipes de secours

Bien que des agents conversationnels tels que ChatGPT, Gemini et Claude puissent aider à établir des listes de matériel ou à fournir des informations générales, les experts rappellent qu'ils peuvent se baser sur des données obsolètes tout en affichant un aplomb trompeur. Les sauveteurs recommandent d'utiliser l'intelligence artificielle uniquement comme point de départ et de croiser impérativement les informations avec des cartes officielles et des consignes locales.