제미나이 믿고 8시간 등산…해발 4000m서 조난 사고 발생

무슨 일이 있었나

한 등산객이 구글의 AI 챗봇 제미나이(Gemini)가 제시한 정보를 신뢰해 등산로를 정하고 나섰다가, 해발 4000m 지점에서 발이 묶여 조난 상황에 놓이는 사고가 발생했다고 한국경제가 보도했다. 해당 등산객은 제미나이의 안내를 바탕으로 약 8시간에 걸친 산행을 진행한 것으로 전해졌다.

보도에 따르면 이 사고는 AI가 제공한 경로·정보에 의존해 실제 야외 활동을 결정한 사례로, AI 챗봇의 답변이 실제 물리적 위험이 따르는 상황에서도 별다른 검증 없이 그대로 받아들여지고 있다는 점을 보여준다. 구체적인 사고 경위나 구조 여부 등 세부 사항은 보도 시점 기준으로 제한적으로 전해졌다.

왜 중요한가

이번 사례는 생성형 AI가 일상적인 정보 검색을 넘어 등산로 추천처럼 실제 신체적 위험이 따르는 의사결정에까지 활용되고 있다는 점을 보여준다. AI 서비스가 일반 검색엔진처럼 편리하게 느껴질수록, 이용자들은 답변의 정확성이나 최신성을 별도로 확인하지 않고 곧바로 행동으로 옮기는 경향이 커진다.

기업과 서비스 운영자에게는 AI 기능을 제품에 통합할 때 신뢰의 경계를 어떻게 설계할 것인가라는 과제를 던진다. 특히 안전, 건강, 야외활동처럼 결과가 되돌릴 수 없는 영역에서는 AI의 한계와 불확실성을 이용자에게 얼마나 명확히 전달하는지가 서비스 설계의 핵심 문제로 떠오르고 있다.

르네상스의 시각

이번 사고에서 정말로 주목해야 할 지점은 AI의 답변이 틀렸다는 사실 자체가 아니라, 사람들이 AI의 답변을 얼마나 쉽게 '충분히 검증된 사실'로 받아들이는가에 있다.

사람들은 AI의 답변을 자연스럽고 자신감 있게 서술된 문장이라는 이유만으로 실제보다 더 신뢰하는 경향이 있다. 이는 전형적인 '유창성 오류(fluency heuristic)'로, 정보의 형식이 매끄러울수록 내용의 정확성까지 과대평가하게 만든다. 안전이 걸린 영역에서 AI를 서비스에 결합하는 기업이라면, 답변의 불확실성 수준을 사용자에게 함께 제시하고, 위험도가 높은 상황에서는 재확인이나 전문가 검증을 유도하는 마찰 지점을 의도적으로 설계해야 한다. 고객을 진정으로 배려하는 서비스는 AI가 항상 정답을 준다고 믿게 만드는 것이 아니라, 언제 AI를 믿지 말아야 하는지를 함께 알려주는 것이다.