AnthropicのAI開発加速、自社警告水準を超えた可能性

非営利団体METRによる11週間の調査で、Anthropicの社内研究データを分析した結果、同社のモデル開発ペースがおよそ2倍に加速していることが明らかになった。その加速の約80%は、AIが研究プロセス自体を補助することによって生じているという。

Anthropicはこれまで、AI開発の加速度合いがある水準を超えた場合に特別な対応をとるという方針を社内で設けているとされてきた。METRの調査は、その警告水準をすでに7月時点で超えていた可能性を示すものであり、業界内外で注目を集めている。AIが自分自身の研究を加速させる「再帰的な自己改善」に近い状況は、AI安全性の議論で長く指摘されてきたリスクの一つと位置づけられる。

一方で、今回の調査結果には重要な留保がある。Anthropicは最も証拠能力の高いデータを黒塗り（非開示）にしており、METRは調査報告の中で、公開情報だけでは本来よりもMETR自身の判断に「必要以上に依存せざるを得ない」状況だと認めた。つまり、調査の根拠となったデータの核心部分を外部が検証できない状態になっている。

さらに、Anthropic社内にも今回の評価に懐疑的な声があることがわかっている。開発加速の解釈や測定手法に異論があるとみられ、調査結果が社内で一枚岩の合意を得ているわけではないという。第三者評価と企業内部の見解が食い違う構図は、AI安全性の評価において透明性の確保がいかに難しいかを示している。

背景として押さえておきたいのは、METRが果たしている役割だ。同団体はAIシステムのリスク評価を専門とする独立機関であり、主要なAI企業の開発状況を外部から監査する数少ない組織の一つと位置づけられる。このような第三者監査は、企業が自社に不利な情報を公開しにくい構造的な問題を補うために重要な意味を持つ。

今回の件が示す本質的な問題は、AI開発の透明性をめぐる構造的な課題にある。企業が重要データを非開示にしたまま外部監査を受け入れても、その評価の信頼性には自ずと限界が生じる。AIの開発速度が加速する中で、どこまでの情報を公開し、誰がどのように検証するかという枠組みづくりが、今後の重要な焦点になるという見方ができる。

AIが自らの研究を加速させるというサイクルが実際に進行しているとすれば、外部からの監視が実効性を持つためには、より踏み込んだ情報開示のルールが求められる。今回の調査は、現時点の監査体制が持つ限界を明確に示した事例として、規制や政策の議論にも影響を与える可能性がある。