DeepMind、AI絶滅リスクの社外発言を禁止していた

Google DeepMindの元広報担当者が、かつて同組織内でAIによる人類絶滅リスクに関する外部への発言が全面的に禁じられていたと証言した。発言したのはVishal Mainiという元スポークスパーソンで、「組織のいかなるレベルの誰であっても、人類絶滅の可能性についての外部への発信は許可されていなかった」と述べている。

AIの安全性をめぐる議論が活発化する以前から、AI研究機関の内部では「AIアライメント（AIの目標や行動を人間の意図と合致させること）」が未解決の課題であるという認識は共有されていた。Mainiによれば、DeepMindのチームもその点を内部では理解していたという。つまり、技術的な課題への認識と、外部に発信できる内容との間に、明確な乖離があったことになる。

Mainiが語った具体的な内容は2点に絞られる。一つは、AIが人類の存続を脅かす可能性についての公的な言及が、職位を問わず組織全体で禁止されていたという方針の存在。もう一つは、同組織の内部においてAIアライメントが「解決済みではない」という認識がチームに広く共有されていたという事実だ。現時点でGoogle DeepMind側からの公式なコメントは確認されていない。

この証言が持つ意味は、単なる内部方針の暴露にとどまらないと見ることができる。AIの安全性に関する情報公開のあり方、とりわけ研究機関が「知っていること」と「発信していること」の間にどれほどの差があるかという問いを、改めて社会に投げかけるものだからだ。近年、OpenAIやAnthropicなど主要AI企業が安全性への取り組みを積極的にアピールする傾向が強まる中、過去の大手研究機関における情報管理の実態は、透明性の基準を問い直す視点として重要な位置づけを持つという見方ができる。

AIリスクをめぐる公開議論は、ここ数年で大きく変容してきた。2023年以降、著名な研究者や経営者が相次いでAIの長期的リスクについて公の場で言及するようになり、かつては一部の専門家の間に限られていた議論が主流の関心事となっている。こうした流れの中で、大手研究機関がかつて外部発信を制限していたという証言は、当時の業界の空気感を示す記録として注目されることになる。

今後の焦点の一つは、こうした内部証言がAI研究機関の情報公開方針にどう影響するかという点だ。規制当局や市民社会が透明性を求める声を強める中、研究機関側がリスクに関する情報をどのように、どの範囲で開示していくかは、AI政策の形成にも影響を与え得ると位置づけられる。元関係者による証言が相次ぐようであれば、業界全体の説明責任のあり方についての議論がさらに深まっていく可能性がある。