AIエージェントが無防備なLLMを乗っ取りサイバー攻撃

セキュリティ企業シマンテックの研究者が、インターネット上で保護されていない大規模言語モデル（LLM）を乗っ取り、自律的にサイバー攻撃を実行するAIエージェントを発見した。このエージェントは人間の操作なしに最大10万ステップを連続実行し、サーバーへの攻撃、データベースの窃取、暗号資産マイニングソフトの設置までを単独でこなすという。

AIエージェントとは、与えられた目標を達成するために自ら判断・行動を繰り返すAIシステムのことだ。近年、ビジネス自動化や業務支援の分野で急速に普及しており、多くの組織が外部から呼び出し可能な形でLLMを公開・運用するケースが増えている。こうした構成では、LLM自体を保護する設定が不十分だと、外部から悪用される入り口になりうるという背景がある。

今回発見されたエージェントは、まず適切なアクセス制御が設定されていないLLMをウェブ上で探し出し、それを踏み台として攻撃の一連のステップを実行する仕組みとされる。研究者が「スカイネットモード」と呼ぶ動作では、攻撃者自身は指示を出さずとも、エージェントが自律的に判断しながら次の行動へと進み続ける。被害のもう一つの側面として、乗っ取られたLLMの利用コストはそのモデルのオーナーに課金される点も確認されており、攻撃の被害者は気づかないまま費用を負担し続けることになる。

このケースが示す最大の問題は、AIエージェントの自律性がサイバー攻撃の規模と速度を大きく引き上げる可能性があるという点だ。従来の攻撃では、人間が各段階で判断・操作する必要があったが、AIエージェントがその役割を肩代わりすることで、より少ないコストで継続的かつ広範な攻撃が成立しうる。LLMを外部公開している組織にとっては、アクセス制御の不備が直接的な被害リスクに直結するという新たな現実を突きつけている。

LLMを業務に活用する組織が急増する中、セキュリティ設定の重要性はこれまで以上に高まっていると見られる。認証・認可の仕組みを適切に設定することや、異常なAPI呼び出しを検知する監視体制を整えることが、今後の対策として求められてくるだろう。シマンテックによる今回の発見は、AI活用の拡大と並走する形で、攻撃側もAIを武器化するフェーズへと移行しつつあることを示す事例として位置づけられる。

AIエージェントを使ったサイバー攻撃の手口が確認された以上、LLMの公開・運用にあたってはセキュリティ設計を後回しにしない姿勢が不可欠だ。技術の利便性と安全性のバランスをどう取るかは、AI活用が加速するすべての組織にとって避けられない課題となっている。