AI의 조언을 믿은 등산객이 조난, 구조됨

미국에서 등산 계획에 Google의 AI 어시스턴트 Gemini를 이용한 하이커 그룹이 식량과 물 부족으로 조난해 지역 보안관 사무소에 구조되는 사건이 발생했다. 보안관 사무소는 성명에서 "Gemini가 그룹에 필요한 양을 훨씬 밑도는 식량과 물을 지참하도록 조언했다"고 설명했다.

AI 챗봇을 여행과 야외활동 계획에 활용하는 사람들이 증가하고 있는 가운데, 이번 사건은 그 위험성을 보여주는 구체적인 사례로 위치지어진다. AI 어시스턴트는 자연스러운 대화로 질문에 답하고 편리하게 정보를 제공할 수 있는 유용한 도구다. 한편 이러한 시스템은 지형·기온·참여 인원·체력 등 현지의 실정과 관련된 세부 조건을 정확히 파악한 후 답변하는 것이 아니며, 특히 생명과 관련된 야외활동에서는 정보의 정확성이 치명적인 결과를 초래할 수 있다.

보안관 사무소가 공개한 내용에 따르면, 이 그룹은 Gemini가 제시한 양의 식량과 물을 기준으로 준비를 갖추고 출발했으나, 실제로 필요한 양에는 크게 못 미쳤고 활동을 계속하기 어려워졌다. 그 결과 구조 요청에 이르렀고 보안관 사무소가 출동하게 되었다. 구체적인 날짜나 장소, 그룹의 인원수는 원문에서 밝혀지지 않았다.

이번 사건이 보여주는 근본적인 문제는 AI가 "그럴듯한 답"을 내놓는 것과 "안전하고 정확한 답"을 제공하는 것이 다르다는 점이다. 현재의 AI 어시스턴트는 입력된 정보를 바탕으로 확률적으로 자연스러운 문장을 생성하는 방식이며, 등산의 안전 관리에 필요한 전문적 판단을 보장하도록 설계되지 않았다. 즉, 이용자가 전문가의 조언을 구하려는 의도더라도 AI가 반드시 그 기대에 응할 수 있다는 보장은 없다는 해석이 가능하다.

AI를 도구로서 현명하게 사용하려면 그 한계를 이해하는 것이 필수다. 특히 등산이나 클라이밍 같은 야외활동에서는 필요한 수분량과 식량이 체격·속도·기상 조건·해발도에 따라 크게 달라진다. 공공기관이나 등산 전문가가 제공하는 가이드라인을 참고하고, AI의 정보는 어디까지나 참고의 한 가지로 다루는 것이 안전 확보의 기본이라 할 수 있다.

향후 AI 어시스턴트를 둘러싸고는 제공하는 정보의 적절한 범위나 면책사항의 표시, 안전과 관련된 영역에서의 정확도 향상 같은 과제가 주목받을 가능성이 있다. 이번과 같은 사례가 계속 쌓임에 따라 AI 개발 기업이나 규제 당국이 이용자에 대한 주의 환기나 시스템 설계 재검토에 움직일지 여부도 살펴봐야 할 점이라 하겠다.