인간의 '마음'을 무시하는 AI는 행동 예측을 틀린다

AI가 인간의 행동을 올바르게 예측하려면 물리 법칙뿐 아니라 "사람이 무엇을 믿고 무엇을 원하는가"를 이해해야 한다는 연구 결과가 새로이 나타났다. 인간의 심리 상태를 포함하는 "멘탈 월드 모델링"이라는 새로운 프레임워크가 제안되었으며, 현재 주류 AI 모델이 갖는 본질적인 한계를 부각시키고 있다.

현재 널리 사용되는 월드 모델(AI가 물리적 세계의 변화를 모의실험하는 구조)은 Sora와 Genie를 대표로 들 수 있듯이, 주로 물리 현상의 재현에 특화되어 설계되었다. 이러한 모델은 영상 생성이나 환경의 동적 변화를 다루는 데는 능하지만, 인간이 무엇을 생각하고 무엇을 의도하는가라는 "마음의 상태"를 고려하는 메커니즘을 원래부터 갖고 있지 않다. AI가 인간의 행동을 예측하려는 장면에서 이러한 결핍이 큰 문제가 된다.

새로이 제안된 멘탈 월드 모델링 프레임워크의 특징은 기존 월드 모델에 "신념", "의도"와 같은 심리 변수를 명시적으로 추가한다는 점이다. 연구에서는 이 프레임워크를 적용한 비교적 능력이 낮은 언어 모델이 멘탈 모델링을 수행하지 않는 더 높은 성능의 언어 모델을 능가하는 결과를 보여주었다. 즉, 모델의 규모나 기초 성능보다는 "마음의 상태를 고려하는 설계가 있는지 없는지"가 행동 예측의 정확도를 좌우한다는 해석이 가능하다.

연구에서 특히 큰 과제로 지적된 것은 물리 상태와 심리 상태의 변화를 동시에, 그리고 일관성을 유지하며 예측하는 부분이다. 예를 들어 사람이 방에 들어올 때, 문이 움직인다는 물리적 변화와 동시에 그 사람이 무언가를 깨닫거나 의도가 바뀌는 심리적 변화가 일어날 수 있다. 이 둘을 연동하여 모델화하는 것은 현 시점에서 기술적으로 가장 어려운 병목이라고 평가되고 있다.

배경으로 짚고 넘어가야 할 점은 월드 모델 연구가 지난 몇 년간 급속도로 주목을 받기 시작한 경위다. 대규모 언어 모델과 영상 생성 AI가 진화하면서 "물리적으로 일관된 세계를 모의실험할 수 있는가"라는 질문에 대한 관심이 높아졌다. 하지만 인간이 등장하는 장면에서는 물리 법칙만으로는 설명할 수 없는 행동, 즉 "그 사람이 어떻게 생각하는가"에 기반한 행동이 자주 나타난다. 이번 연구는 바로 그 공백을 지적한 것이라 할 수 있다.

이 연구가 보여주는 의미는 AI 분야 전체를 향한 문제 제기로 받아들일 수 있다. 행동 예측이나 자율적 판단이 요구되는 로봇 공학, 자동 운전, AI 에이전트와 같은 응용 분야에서는 물리 세계의 모델링만으로는 부족하며, 인간의 심리 상태를 포함하는 설계가 필수가 될 수 있다. 모델의 규모를 단순히 확대하는 방향성뿐 아니라, 무엇을 변수로 다룰 것인가라는 설계 철학 자체가 문제된다는 점에서 향후 연구·개발의 방향성에 영향을 미칠 가능성이 있다고 평가된다.

앞으로 주목할 점은 물리 상태와 심리 상태를 연동하여 모델화하는 방법의 개발이 어디까지 나아가는가이다. 이 병목이 해결되면 AI가 인간의 행동을 더욱 정확하게 이해하고 예측할 수 있는 장면이 넓어질 것으로 예상된다. 한편, 심리 상태의 추정을 AI에 포함시키는 것은 개인정보 보호와 윤리적 문제로부터도 떨어질 수 없는 주제가 될 것으로 생각된다.