AIの助言を信じた登山者が遭難、救助される

米国で、登山計画にGoogleのAIアシスタント「Gemini（ジェミニ）」を利用したハイカーのグループが、食料と水の不足により遭難し、地元の保安官事務所に救助される事態が起きた。保安官事務所は声明の中で、「Geminiがグループに必要な量をはるかに下回る食料と水を持参するよう助言した」と説明している。

AIチャットボットを旅行や野外活動の計画に活用する人が増えている中、今回の事故はその危うさを示す具体的な事例として位置づけられる。AIアシスタントは自然な会話で質問に答え、手軽に情報を提供できる便利なツールだ。一方で、これらのシステムは地形・気温・参加人数・体力など、現地の実情に関わる細かな条件を正確に把握した上で回答しているわけではなく、とりわけ命に関わるアウトドア活動では、情報の精度が致命的な差を生む可能性がある。

保安官事務所が公表した内容によると、このグループはGeminiが示した量の食料と水を基に準備を整えて出発したが、実際に必要な量には大きく足りず、活動継続が困難になった。その結果、救助要請に至り、保安官事務所が出動する事態となった。具体的な日時や場所、グループの人数については原文では明らかにされていない。

今回の件が示す本質的な問題は、AIが「それらしい答え」を出すことと、「安全で正確な答え」を出すこととは別物だという点にある。現在のAIアシスタントは、入力された情報をもとに確率的に自然な文章を生成する仕組みであり、登山の安全管理に必要な専門的な判断を保証する設計にはなっていない。つまり、利用者が専門家の助言を求めているつもりでも、AIは必ずしもその期待に応えられるわけではないという見方ができる。

AIを道具として賢く使うためには、その限界を理解しておくことが欠かせない。特に登山や登攀といった野外活動では、必要な水分量や食料は体格・ペース・気象条件・標高などによって大きく異なる。公的機関や登山の専門家が提供するガイドラインを参照し、AIの情報はあくまで参考の一つとして扱うことが、安全確保の基本と言える。

今後、AIアシスタントをめぐっては、提供する情報の適切な範囲や免責事項の表示、安全に関わる領域での精度向上といった課題に注目が集まる可能性がある。今回のような事例が積み重なることで、AI開発企業や規制当局が、利用者への注意喚起やシステム設計の見直しに動くかどうかも、観察すべき点の一つと言えるだろう。