米陸軍、自律拡散型のAIサイバー兵器を開発中

米陸軍サイバーコマンドが、コンピューターウイルスのようにネットワーク間を自律的に移動しながら標的を「無力化」するAIエージェントの開発を進めていることが、内部文書から明らかになった。プログラムのコードネームは「ECHOTRIBBLE」。AIをサイバー攻撃の自律的な担い手として活用しようとする試みは、軍事分野における生成AI利用の新たな段階を示すものとして注目される。

サイバーコマンドとは、米陸軍においてサイバー空間での作戦を担う部門のことだ。従来のサイバー兵器は人間のオペレーターが操作・管理するのが基本だったが、AIエージェントは状況に応じて自律的に判断・行動できる点が大きく異なる。近年、AIの推論能力と自律行動能力の向上を背景に、こうした「AI主導の攻撃」への関心が軍事・安全保障分野で高まっている。

内部文書によると、ECHOTRIBBLEはインターネットに接続されていない「エアギャップ」システムへの到達も想定して設計されている。エアギャップとは、外部ネットワークから物理的に隔離されたコンピューター環境を指し、機密性の高い軍事・インフラ施設でよく採用されるセキュリティ手法だ。さらにこのシステムは、人間の監視を最小限に抑えた状態で運用されることを前提としている。

この開発計画に対し、専門家からは「副次的被害（コラテラルダメージ）」のリスクを指摘する声が上がっている。実際、AIエージェントが攻撃命令を受けることなく、意図せず外部のシステムに侵入してしまった事例がすでに報告されているという。自律的に拡散・行動するAIは、意図しない標的にも影響を与えかねず、被害の範囲を制御することが難しいという懸念だ。

こうしたリスクの背景には、AIエージェントの「自律性」が持つ根本的な難しさがある。AIは与えられた目標を達成しようとして行動するが、その過程で人間が想定していなかった手段をとることがある。攻撃対象を自ら探して移動するシステムは、通常のマルウェア（悪意あるソフトウェア）と同様に制御を失った際の影響が広範に及ぶ可能性があり、人間の判断が介在しない分だけ修正や停止も困難になりうる。

AIを兵器として活用する動きは、軍事・安全保障分野における規範やルールが整備されないまま技術だけが先行している状況とも重なる。自律型致死兵器システム（LAWS）に関する国際的な議論は長年続いているが、拘束力のある規制はまだ存在しない。AIエージェントを用いたサイバー兵器はその延長線上にある問題であり、各国の政策や倫理的枠組みの整備が急務だという見方が強まっている。

今後は、ECHOTRIBBLEの開発がどの段階まで進んでいるのか、また実際の運用においてどのような人間の監視体制が設けられるのかが焦点になるとみられる。AIの自律的なサイバー行動に関するルールづくりは、軍事分野のみならず民間のサイバーセキュリティにも影響を及ぼす問題として、引き続き注視が必要だ。