AIの誤情報が米軍の作戦を寸前で止めた

2026年春、米軍がAIチャットボットの誤った分析をもとに、中国船舶への乗り込み作戦を実行直前まで進める事態が起きた。武装した兵士が待機し、航空機も上空に展開していたが、作戦が始まる直前に誤りが発覚し、事態は回避された。AIが出力した「核兵器の部品が積まれている」という情報が事実ではなく、いわゆる「ハルシネーション（AIが誤った情報を事実のように生成する現象）」だったことが判明したのである。

ハルシネーションはAIシステムが抱える代表的な課題の一つだ。AIは、学習データのパターンから回答を生成する仕組み上、存在しない情報や不正確な内容を、あたかも確認された事実であるかのように出力することがある。こうした誤りは民間の業務では影響が限定的で済む場合もあるが、軍事や安全保障の分野では、誤った情報が致命的な判断ミスに直結しうる。

今回の事例で確認できるのは、AIが生成した諜報分析を人間が十分に検証しないまま作戦準備が進んでいたという点だ。武装兵士の展開や航空機の出動という具体的な行動が取られるまで、誰もその情報の正確性を疑わなかったか、または疑う機会がなかったことになる。誤りが発覚したのは作戦開始の直前であり、これ以上の「ぎりぎり」はない状況だったといえる。

この出来事は、AI安全リスクの議論に新たな視点を加えるものと位置づけられる。AIのリスクをめぐっては、「超高性能なAIが人間の制御を超えて暴走する」というシナリオが語られることが多い。しかし今回の事案は、それとは異なる危険性、つまり「性能が不十分なAIを、批判的な検証なしに使うことで起きる事故」という問題を浮き彫りにした。高度な技術の問題ではなく、運用する人間側の体制や判断プロセスの問題という見方ができる。

軍事分野へのAI導入は、世界的に加速している。意思決定の迅速化や情報処理能力の向上を目的として、各国がAIを安全保障に活用しようとしている流れは今後も続くとみられる。しかし今回のケースは、AI出力を「正しいもの」として扱うことの危うさを、実際の作戦行動という形で示した事例として、一定の警鐘を鳴らすものといえる。

AIを導入するだけでなく、その出力を人間がどう検証し、どの段階で最終判断を下すかという「人間による監視（ヒューマン・オーバーサイト）」の仕組みが不可欠であることが、改めて示された形だ。技術の精度向上と並行して、AIに依拠した判断プロセス全体の設計を問い直す必要があるという見方が、今後の議論でより強まる可能性がある。

今回の事態が実際の武力衝突に発展していた場合、その影響は計り知れないものになっていた。米中関係が敏感な局面にある中での出来事として、この事例はAIの軍事利用における「誤作動の代償」がいかに大きくなりうるかを示す、重大な事例として記録されることになる。