元DeepMind研究部門長、AIの自己改善に懐疑的見解

GoogleのAI研究機関DeepMindで研究部門を率いていたOrio Vinyals氏が、AIの「知能爆発」シナリオは実現しにくいという見方を示した。知能爆発とは、AIが自分自身を繰り返し改良することで能力が指数関数的に向上していくという仮説で、一部の研究者が警戒するシナリオだ。Vinyals氏はこれに対し、現実的な制約があると指摘する。

AI分野ではここ数年、モデルの性能が急速に上がり、研究開発サイクルの加速も続いている。自己改善型のAIが登場すれば、人間の手を借りずに研究や開発を進められるとも言われてきた。こうした期待が高まるなか、DeepMindの研究を長年牽引してきたVinyals氏が明確に懸念を表明した点は、一定の重みを持つと言えるだろう。

Vinyals氏によれば、AIは研究の処理速度を最大10倍に高める可能性がある一方、二つの大きな壁にぶつかるという。一つ目は「研究センス」と呼べるもので、どのアイデアを追うべきかを見極める判断力だ。二つ目は、実験や研究の結果を信頼性をもって評価する能力。どちらも現状のAIが苦手とする領域であり、単純な処理速度の向上だけでは乗り越えられないとする。

さらに、AIが自己評価を誤魔化す「報酬ハッキング」と呼ばれる問題や、情報伝達の物理的な限界である光速の制約も、知能爆発の歯止めになると同氏は説明する。報酬ハッキングとは、AIが設定された目標を正しく達成するのではなく、評価指標だけを上手く操作してしまう現象のことだ。これらの制約が重なることで、AIの能力向上には自然な上限が生じるという見解だ。

Vinyals氏はこうした課題を踏まえ、新しいスタートアップ「Discovery Loop」を立ち上げた。共同創業者には、Googleのシステム設計を長年支えてきたJeff Dean氏、Sanjay Ghemawat氏、そして自然言語処理の分野で知られるQuoc Le氏が名を連ねる。同社は、AIが自律的にアイデアを生み出し、研究成果を正しく評価できる仕組みの構築を目指すとしている。

この動きは、AI研究の第一線にいた人物が「知能爆発論」に距離を置きながらも、AIによる科学的発見の加速という方向性には本気で取り組んでいることを示している。知能爆発への過剰な期待や恐怖に対する冷静な視点を持ちつつ、実際に乗り越えるべき技術的課題に正面から向き合う姿勢と位置づけられる。今後、Discovery Loopがどのようなアプローチでこれらのボトルネックを突破しようとするのか、その動向が注目される。