AIエージェント時代に求められる「実行中の信頼」

企業向けAIが新たな段階に移行している。これまでのAIは質問に答える「アシスタント」の役割が中心だったが、今や複数のツールを呼び出し、業務システムにアクセスし、人間の介入をほとんど受けずに複数ステップの業務を完了できる「自律型エージェント」が企業現場に広がりつつある。こうした変化に伴い、従来のセキュリティ管理の考え方では対応しきれない新たなリスクが顕在化してきた。

従来のソフトウェアは、開発者があらかじめ書いたロジックを決まった順序で実行するだけだった。一方、AIエージェントは目標を達成するために、どのツールを使い、どのAPIを呼び出し、どの情報を取得するかを動的に判断する。この柔軟性がビジネス上の大きな価値を生む反面、セキュリティ上の新しい問題も引き起こす。AIエージェントが自律的に動き続ける間、その行動が本当に安全かどうかを従来の管理手法では把握しにくいためだ。

現在のAIセキュリティ議論の多くは、プロンプトインジェクション（悪意ある指示を混入させる攻撃）、モデルの脆弱性、データ漏洩といった問題に集中している。これらは確かに重要な課題だが、問題の一部にすぎない。AIエージェントが正当な認証を経てシステムに入り込んだ後、自律的に動き続ける段階では、従来のセキュリティ制御はほとんど機能しないという点が見落とされがちだ。

企業のセキュリティはこれまで、「あなたは誰か」「何にアクセスできるか」「どんな操作が許可されているか」という三つの問いを軸に設計されてきた。多要素認証（MFA）やロールベースのアクセス制御、ゼロトラストアーキテクチャといった仕組みは、人間のユーザーや従来型のアプリケーションに対しては有効に機能する。しかしAIエージェントは、正当なIDで認証を通過し、Microsoft 365やServiceNow、Salesforce、GitHubといった業務システムへの正規アクセス権を取得した後も、自らの判断で行動し続ける。認証が「誰であるか」を確認するにとどまるのに対し、エージェントが実行中に「何をしているか」を継続的に検証する仕組みが、現行の体制では欠けているという指摘だ。

この課題に対応するための考え方として提起されているのが「ランタイムトラスト（実行時の信頼検証）」という概念だ。これは、認証後もエージェントの行動を継続的に監視し、ユーザーの意図や組織のポリシーに沿って動いているかどうかをリアルタイムで確認するというアプローチを指す。従来の「入口での確認」から、「動き続ける間の継続的な確認」へと発想を転換することが求められている。

現代のAIエージェントは、大規模言語モデル（LLM）、MCP（Model Context Protocol）サーバー、RAG（検索拡張生成）システム、ベクターデータベース、企業API、SaaSプラットフォーム、社内知識リポジトリ、さらには他のAIエージェントとも連携する複雑なエコシステムの中で動作する。こうした相互接続された環境では、一つのツールが侵害されたり、知識ソースに不正なデータが混入したりするだけで、その影響がシステム全体に波及するリスクがある。自動化の恩恵が大きいほど、攻撃対象となる面も広がるという構造的な課題が浮かび上がっている。

AIエージェントの企業導入が加速する中で、セキュリティの焦点は「入り口の管理」から「行動の継続的な監視」へと移行しつつあると位置づけられる。エージェントが自律的に判断・行動する仕組みを活用しながら、その行動がどこまで組織の意図に沿っているかを検証する体制をどう構築するか。これは今後、企業のAI活用戦略において避けて通れない問いになっていくという見方ができる。