元DeepMind研究者、AIの誤回答克服を目指すスタートアップ設立

元DeepMind研究者のトーレ・グレペルが、AIの「ハルシネーション（事実と異なる情報を生成してしまう問題）」を解消することを目指すスタートアップ「Metis Reasoning」を立ち上げた。同社が目指すのは、チェスや囲碁のAIで実績を持つ「探索」の考え方を、汎用的な推論へと応用することだ。

グレペルがモデルに取り入れようとしているのは、DeepMindが開発した囲碁AI「AlphaGo」の設計思想だ。AlphaGoは、膨大な選択肢の中から最善手を「探索」によって導き出す仕組みを持つ。この手法をゲームの枠を超えて一般的な推論に活かせれば、AIが結論を出す過程をより体系的にコントロールできるという考え方が、Metis Reasoningの出発点となっている。

具体的なアプローチとして、グレペルは「知識台帳（ナレッジ・レジャー）」と呼ぶ明示的な仕組みの導入を想定している。現在の大規模言語モデルは、学習データから得た知識をモデルの内部パラメータ（重み）に暗黙的に組み込む構造を取る。これに対し、知識台帳は結論の根拠となる証拠を外部に明示的に記録することで、あとから検証できる状態にしようという構想だ。ただし現時点では、具体的なシステムの実装もベンチマーク（性能評価の指標）も存在しない段階にある。

ハルシネーションは、生成AIが広く使われるようになって以降、実用上の大きな課題として認識されてきた。モデルが「それらしく聞こえる」が事実と異なる内容を生成するこの問題は、医療・法律・教育といった信頼性が求められる分野での活用を難しくしてきた。Metis Reasoningのアプローチは、この問題の根本にある「知識の不透明さ」に正面から向き合おうとするものと見ることができる。

一方で、構想段階であることは注意が必要だ。実際に動作するシステムがなく、客観的な評価も行われていない現在、このアプローチの有効性はまだ確認されていない。探索ベースの手法が囲碁という明確なルールと評価基準を持つ領域で成功したのに対し、自然言語による推論は問題の境界があいまいで正解の定義も多様であるため、同じ手法がどこまで通用するかは未知数という見方ができる。

それでも、AlphaGoの開発に深く関わった研究者が、そのノウハウをハルシネーション対策に転用しようとしている点は、今後の研究動向を考えるうえで注目に値する。根拠を明示して検証可能にするという方向性は、RAG（検索拡張生成）など既存のアプローチとも問題意識を共有しており、AIの信頼性向上に向けた議論の一角を担う可能性がある。実用的なシステムの公開やベンチマーク結果の発表が、次の判断材料となるだろう。