人間の「心」を無視するAIは行動予測を誤る

AIが人間の行動を正しく予測するには、物理法則だけでなく「人が何を信じ、何を望んでいるか」を理解する必要がある——そんな研究結果が新たに示された。人間の心的状態を組み込む「メンタル・ワールド・モデリング」という新しい枠組みが提案され、現在主流のAIモデルが抱える本質的な限界を浮き彫りにしている。

現在広く使われているワールドモデル（AI が物理的な世界の変化をシミュレートする仕組み）は、SoraやGenieに代表されるように、主に物理現象の再現に特化して設計されている。こうしたモデルは映像の生成や環境の動的変化を扱うのは得意だが、人間が何を考え、何を意図しているかという「心の状態」を考慮する仕組みをもともと持っていない。AIが人間の行動を予測しようとする場面では、この欠如が大きな問題となる。

新たに提案されたメンタル・ワールド・モデリングの枠組みは、既存のワールドモデルに「信念」「意図」といった心的変数を明示的に加える点が特徴だ。研究では、この枠組みを取り入れた比較的能力の低い言語モデルが、メンタルモデリングを行わないより高性能な言語モデルを上回る結果を示した。つまりモデルの規模や基礎性能よりも、「心の状態を考慮する設計があるかどうか」が行動予測の精度を左右するという見方ができる。

研究の中で特に大きな課題として挙げられたのは、物理状態と心的状態の変化を同時に、かつ整合性を持って予測する部分だ。たとえば人が部屋に入ってきたとき、ドアが動く（物理的変化）と同時に、その人が何かに気づいたり意図が変わったりする（心的変化）場合がある。この二つを連動してモデル化することは、現時点では技術的に最も難しいボトルネックだとされている。

背景として押さえておきたいのは、ワールドモデル研究がここ数年で急速に注目を集めてきた経緯だ。大規模な言語モデルや映像生成AIが進化する中で、「物理的に筋の通った世界をシミュレートできるか」という問いへの関心が高まってきた。しかし人間が登場する場面では、物理法則だけでは説明できない行動——すなわち「その人がどう考えているか」に基づく行動——が頻繁に現れる。今回の研究はまさにその空白を指摘したものといえる。

この研究が示す意味は、AI分野全体に向けた問いかけとして受け取れる。行動予測や自律的な判断が求められるロボット工学、自動運転、AIエージェントといった応用領域では、物理世界のモデリングだけでは不十分であり、人間の心的状態を組み込む設計が不可欠になりうる。モデルの規模を単純に拡大する方向性だけでなく、何を変数として扱うかという設計思想そのものが問われている点で、今後の研究・開発の方向性に影響を与える可能性があると位置づけられる。

今後注目すべきは、物理状態と心的状態を連動してモデル化する手法の開発がどこまで進むかだ。このボトルネックが解消されれば、AIが人間の行動をより正確に理解・予測できる場面が広がるという見方ができる。一方で、心的状態の推定をAIに組み込むことは、プライバシーや倫理的な問いとも切り離せないテーマになっていくと考えられる。