Une erreur de Google Gemini induit en erreur les alpinistes du mont Shasta : « Nous avons trop compté sur l’IA »
Des alpinistes du mont Shasta reconnaissent leur dépendance excessive à Google Gemini après qu'un bug de l'IA les a laissés en difficulté. Une histoire à méditer.
Les choses les plus importantes que vous devez savoir
- Il est conseillé de contacter le poste de garde forestier local du Mont Shasta avant tout voyage et de ne pas se fier entièrement à l'intelligence artificielle pour le planifier.
- La dépendance excessive à l'égard de l'intelligence artificielle a conduit des alpinistes à atteindre le sommet à 7 heures au lieu de 11 heures, ce qui a entraîné leur égarement et la blessure de l'un d'eux lors du retour dans l'obscurité.
- Les informations importantes obtenues grâce à l'intelligence artificielle doivent être vérifiées par d'autres sources et références, car les robots n'ont pas d'expérience pratique dans des domaines tels que l'alpinisme ou le traitement des blessures.
Voici une histoire édifiante venue de Californie, destinée à ceux qui comptent sur les robots d'IA pour planifier leurs aventures en plein air : un groupe d'alpinistes a rencontré de grandes difficultés et a dû être secouru sur le mont Shasta, dans le comté de Siskiyou, après que Google Gemini leur a fourni des informations inexactes sur l'ampleur du défi à relever.
Selon le bureau du shérif du comté de Siskiyou (via Engadget ), l'IA de Google a simplement indiqué aux trois alpinistes inexpérimentés qu'ils devaient se préparer à une ascension de huit heures jusqu'au sommet et emporter des glucides simples plutôt que des graisses, car les graisses « prennent beaucoup de temps à digérer ».
Après plus de 16 heures d'effort, une grave blessure au genou et après s'être perdus dans l'obscurité, le groupe regrettait sans aucun doute sa décision de demander conseil à une intelligence artificielle intangible plutôt qu'à un humain ayant réellement gravi le mont Shasta.
Heureusement, les alpinistes ont été secourus le lendemain matin par une équipe composée de membres du bureau du shérif du comté de Siskiyou, de secouristes volontaires et de gardes forestiers américains spécialisés en alpinisme. Cependant, le trio malchanceux a dû passer la nuit dans un campement de fortune dans le canyon de Mud Creek.
Leçon apprise
Un communiqué du bureau du shérif indique : « Il est toujours recommandé de contacter le poste de garde forestier du Mont Shasta du Service des forêts des États-Unis (USFS) avant votre excursion afin d’obtenir les informations les plus précises et de ne pas se fier uniquement à l’intelligence artificielle pour planifier votre voyage. » ( Lire le communiqué ) Le communiqué souligne également l’importance de respecter l’heure limite de retour fixée à midi pour les grimpeurs.
Les alpinistes étaient partis à 3 heures du matin, prévoyant d'atteindre le sommet vers 11 heures, mais ils n'y sont arrivés qu'à 7 heures. Sur le chemin du retour, dans l'obscurité, ils se sont perdus et sont entrés dans la vallée, où l'un des membres du groupe a été blessé ; ils ont donc appelé à l'aide.
Bien que l'un des alpinistes ait eu l'application AllTrails sur son téléphone, l'appareil a dysfonctionné pendant l'ascension. Comme le rapporte SFGate , les alpinistes ont déclaré aux gardes forestiers après l'incident : « Nous nous sommes trop fiés à l'IA au lieu de faire appel à notre propre jugement. »
Bien que l'IA puisse indéniablement être utile pour la recherche d'informations en ligne, des robots comme Gemini n'ont jamais gravi de montagnes, soigné de blessures, géré de finances ni remplacé de câbles électriques. Par conséquent, pour toute question importante, il est toujours conseillé de vérifier les sources et autres références afin de garantir l'exactitude des informations obtenues.
Les commentaires sont fermés.