Anthropic、AI安全規制の法案を提案

AIスタートアップのAnthropicが、連邦政府に対してAIモデルの安全規制に関する政策案を提示した。その内容は、表向きには危険なAIを止めるための仕組みに見えるが、実態としては、連邦機関がモデルの公開を単独で差し止めることを禁じる条項を含んでいる。

AI安全をめぐる規制議論は近年、米国内で加速している。大規模言語モデル（LLM）の能力が急速に向上するなかで、政府はどこまで民間企業のモデル開発・公開に介入できるのか、その線引きが問われてきた。こうした状況を受け、AI企業みずからが規制の枠組みを提案する動きが増えており、Anthropicの今回の提案もその流れの一つといえる。

Anthropicの案では、50人以上が死亡するような事態を引き起こす可能性があるモデルについては、公開を阻止できる可能性があるとしている。ただし、その判断には裁判官の許可が必要とされており、連邦機関が独自の判断でモデルの差し止めを行うことは認められない仕組みになっている。つまり、規制権限の主体を行政機関ではなく司法機関に移す設計だ。

この構造は一見、司法による適正手続きを担保するものに映る。しかし裏を返せば、行政機関が迅速にリスク対応できる余地を狭めるものとも解釈できる。緊急性の高い安全上の懸念が生じた際でも、裁判所の判断を経なければ公開を止められないとすれば、対応が遅れるリスクも生じうる。

また、Anthropicはみずから高度なAIモデルを開発・販売している企業であることも見逃せない。規制の枠組みを自社が提案するという構図は、業界標準の形成において有利な立場を確保しようとする動きとも位置づけられる。同社はAI安全の研究に力を入れていることで知られているが、今回の提案は安全重視と事業推進をどう両立させるかという難しい立場を浮き彫りにしている。

規制の設計において「誰が最終判断を下すか」は、実効性を大きく左右する。行政機関に判断権を与えるか、司法機関の審査を必須とするか、あるいは業界の自主規制に委ねるかによって、リスク対応のスピードや公平性は変わってくる。Anthropicの提案が今後の米国AI規制議論においてどのように受け止められるか、議会や規制当局の反応が焦点となる。

AI安全をめぐる規制の枠組みはまだ形成途上にある。今回のような企業発の政策提案が増えるなかで、政府がどこまで主導権を持てるかが、今後の規制の実効性を左右するという見方ができる。Anthropicの案が一つの出発点となるのか、あるいは修正・否定されるのか、今後の動向に注目が集まる。