オルトマン氏、AI安全の3シナリオを社内で提示

OpenAIのCEOサム・オルトマン氏が、AIを安全に管理するための3つのシナリオを社内プレゼンテーションで示したことが明らかになった。いずれも、現在のAI開発競争がこのまま無秩序に続くことへの強い問題意識を出発点としており、業界の行方を考えるうえで注目に値する内容だ。

AIの急速な発展が続くなか、主要な研究機関や企業がそれぞれ独自に開発を競う状況は、安全管理の観点から見ると大きなリスクをはらんでいる。核兵器や生物兵器と同様に、能力の高いAIをどの組織が、どのように管理・監視するかという問いは、国際社会でも真剣に議論されるようになってきた。そうした流れの中で、AIのトップ企業を率いるオルトマン氏自身が具体的なシナリオを社内で示したことは、業界の内側からも問題意識が高まっていることを示すものと見られる。

オルトマン氏が提示した1つ目のシナリオは、国際原子力機関（IAEA）をモデルにした国際的な監視機関を設立するというものだ。IAEAは核技術の管理・監視を国際的に担う組織であり、これをAI版として構築するという考え方になる。2つ目は、主要なAI研究機関・企業を一つの組織に統合するという案で、乱立する開発主体を集約することで管理を一元化しようとする発想だ。

3つ目のシナリオは、一社が圧倒的な力を持ち、他の企業や機関が持つ計算資源（GPUなどのAI処理に使うハードウェア）を機能停止させられるほどの支配力を持つというものだった。オルトマン氏自身はこの案を「terrible（ひどい）」と評しており、現実的な選択肢として推奨したわけではない。むしろ、将来起こりうる極端な帰結の一つとして示したと考えられる。

この3つのシナリオが持つ意味は、AI安全論議の現在地を映す鏡として捉えられる。技術の進化に対して、国際的な枠組みの整備は大幅に遅れており、どの主体が・どのようなルールのもとで・誰の監視のもとにAIを開発・運用するかという問いに、まだ世界的な合意は存在しない。オルトマン氏の提示したシナリオは、その空白をどう埋めるかをめぐる思考実験と位置づけられる。

今後注目すべきは、こうした構想が企業内の議論にとどまるのか、それとも政策や国際的な対話に影響を与えていくのかという点だ。AIを国際的に管理するための仕組みづくりは、各国政府や国際機関でも模索されている段階にある。業界トップが内部でどのような未来像を描いているかは、その議論の方向性を占ううえで一つの重要な手がかりになるという見方ができる。