AnthropicのCEO、AI開発の速度制限を求める

Anthropicの最高経営責任者（CEO）であるダリオ・アモデイ氏が、AI開発のペースを意図的に抑制すべきだと訴えている。具体的には、AI企業への監査担当者の常駐、各社が共有する安全基準の策定、そして核軍縮交渉「SALT条約」をモデルにした国際協定の締結を提案した。

アモデイ氏が特に警戒しているのは、「再帰的自己改善」と呼ばれる現象だ。これは、AIが自らの能力を繰り返し強化していく仕組みで、ある段階を超えると人間がその進歩を把握・制御できなくなるリスクがあるとされる。同氏は、この自己改善プロセスが6〜12か月以内にインターネット全体を脅かしかねないと警告した。

Anthropicは、AIの安全性研究を専門とする企業として創業されており、主力製品「Claude（クロード）」を通じてAI開発の最前線にいる企業でもある。そのCEOが自社の事業領域でもある急速な技術進歩に対して規制を求めるという構図は、業界内でも際立った姿勢といえる。今回の発言は、Anthropicが史上最大規模ともなりうる新規株式公開（IPO）を控えたタイミングで出たものでもある。

アモデイ氏が提案した国際協定のモデルとなったSALT（戦略兵器制限交渉）は、かつて米ソ間で核弾頭の増産を互いに抑制するために結ばれた条約だ。この枠組みをAI分野に応用しようという発想は、AI開発競争を「単なる技術競争」ではなく、安全保障に準じた問題として位置づけることを示唆している。ただし、具体的な合意形成の道筋については、現時点では明らかにされていない。

AI企業に対して外部監査員を常駐させるという提案も、業界に大きな問いを投げかけている。現在、多くのAI企業は安全評価を自社内で完結させており、第三者による継続的なチェック体制は整っていない。常駐監査という仕組みが実現すれば、開発プロセスそのものの透明性が根本から変わる可能性がある。

こうした発言の背景には、生成AIの能力が急速に拡大するなかで、技術の進展が人間の監視能力を超えるリスクへの懸念が業界全体で高まっているという状況がある。安全性の議論はこれまでもあったが、主要なAI企業のCEOが具体的な規制の枠組みを公に提案するケースは多くない。その意味で、今回の発言は政策立案者や他の企業にとっても無視しにくいものとなっている。

今後の注目点は、アモデイ氏の提案がどこまで具体的な議論に発展するかだ。IPOという節目を前に掲げた安全性重視の姿勢が、投資家・規制当局・国際社会それぞれにどう受け取られるかによって、AI開発をめぐるルール作りの方向性に影響を与えると見ることができる。