企業のAIエージェント、ガバナンスが追いつかず

多くの企業がAIエージェントを先に導入し、それを安全に管理するための仕組みは後回しにしている——VentureBeat Researchが2025年6月に実施した5つの調査から、そうした実態が浮かび上がった。調査対象は企業のAI購買に関与する意思決定者が中心で、81%が自社のAI調達を推薦または決定する立場にある。現在、各企業はすでに導入済みのエージェントに後付けで管理体制を整えようとしており、今後12か月以内にベンダーを切り替えるか新たに追加する予定があると答えた企業は、5つの管理領域すべてで57〜68%に達した。

今回の調査では、企業がエージェントを信頼して運用するために必要な5つの管理領域を測定している。具体的には、「どのエージェントが何をしてよいか」を定める「IDと権限管理」、エージェントの出力品質を確かめる「評価」、運用コストを把握する「コストの可視化」、エージェントが参照する業務データや定義を供給する「コンテキスト層」、そして複数ステップにわたるエージェント作業を調整する「オーケストレーション」だ。これらはいずれも、エージェントが人の監視なしに動く場合に欠かせない基盤となる。

しかし現状では、「AIエージェント」と呼ばれているものの多くが、実態は通常のチャットボットに近い。71%の企業が、自社で稼働させている「エージェント」のうち複数ステップの作業を自律的にこなせるものは全体の4分の1以下だと回答し、真の意味でのエージェントが過半数を占めると答えた企業はわずか10%だった。一問一答型のチャットボットであれば上記5つの管理機能はほとんど不要だが、自律的に複数の処理を連鎖させる真のエージェントにはすべてが必要になる。問題は、多くの企業が自社の「エージェント」がどちらに該当するかを把握できていない点にある。

安全を担保するはずの「評価」の信頼性も低い状態にある。エージェントが評価に合格すれば人間のレビューなしに本番環境へコードやシステム変更を反映させる運用を、すでに導入しているか12か月以内に実現しようとしている企業は、全体の3分の2に上る。一方で、その判断を委ねることになる評価システムを「完全に信頼している」と答えた企業はわずか5%にとどまった。さらに、内部評価をパスしたエージェントが過去1年以内に顧客向けサービスで障害を起こしたと答えた企業は全体の半数に達しており、評価結果と実際の運用結果のあいだに大きな乖離があることが示されている。

セキュリティ面でも深刻な課題がある。69%の企業が、複数のエージェントに同一のAPIキーやサービスアカウントを共有させている。こうした「認証情報の共有」を一部でも行っている組織では、セキュリティインシデントまたはその未遂を経験した割合が63.5%（74社中47社）だった。対して、すべてのエージェントに個別のIDと権限を割り当てている組織では、同じ割合が40.9%（22社中9社）にとどまっており、認証情報の管理方法がリスクに直結していることがわかる。

この調査結果が示す構造的な問題は、「速さ優先で導入したが、安全管理が後を追いかけている」という非対称性だ。エージェントの自律性が高まるほど、一度のミスが顧客や業務に与える影響も大きくなる。現時点では多くの企業が管理体制の整備を「追加投資」として予算計上しており、ガバナンスが後付けになっているという見方ができる。エージェントAIの本格活用に向けては、導入と管理を同時に設計する「セキュリティ・バイ・デザイン」的な発想への転換が、今後の焦点になると考えられる。