企業のAI投資、コスト管理が追いつかず

企業のAI基盤への投資が急加速する一方、その費用を正確に把握・管理できている企業は半数にも満たない。VentureBeatが2026年6月（Q2）に実施した調査で、従業員100人超の107社を対象にこうした実態が明らかになった。大規模な支出が先走る中、コストの見通しが追いついていないという「計算資源のギャップ」が、企業のAI活用における構造的な課題として浮かび上がっている。

AIをすでに本番環境で本格的に運用している企業は、全体の21%にとどまる。それにもかかわらず、今後1年間で投資を評価・拡大する計画として最も多く挙げられたのが、AIに特化したクラウドサービス（45%）だった。こうしたAI専用クラウドは、現時点ではほとんどの企業が利用していない領域であり、実際の運用成熟度と投資意欲の間に大きな乖離が生じている状況といえる。

既存のインフラの活用効率にも課題がある。調査対象企業の83%が、GPU（AI処理に使う専用チップ）の稼働率が50%以下だと回答した。半分以上のリソースが遊んでいる計算になる。さらに、自社のAI計算コストを厳密に追跡・管理できていると答えた企業は44%にとどまり、過半数がコストの実態を正確に把握できていない。

インフラ提供事業者の選択にも変動が見られる。64%の企業が今後12か月以内にインフラプロバイダーを切り替えるか新たに追加する予定と回答し、38%はそれを今後1四半期以内に行う意向を示した。基幹インフラの分野としては異例の高い乗り換え意向といえる。プロバイダー選定の基準としては、既存システムとの連携しやすさ（41%）と総保有コスト（35%）が上位を占め、トークンあたりの単価を最重要視すると答えた企業は8%にすぎなかった。

また、AIが大量のリクエストをさばく「推論」の処理においては、GPU（計算能力）よりもメモリの転送速度が実質的な制約になるという技術的なシフトが起きつつある。しかし、この動向をまだ認識していない、または対応に着手していないと答えた企業が全体の約5分の1を占めており、次の投資判断に影響しうる変化が見落とされている可能性がある。

この調査結果は、企業のAI投資が「買う判断」と「管理する能力」の間で大きくバランスを欠いている状態を示している。インフラの購入ペースがコスト把握の仕組みを上回っている以上、支出の最適化や投資対効果の説明がしにくくなるというリスクが生じる。AIへの投資が企業戦略の中核に位置づけられるようになった今、予算配分の妥当性を問う声が経営層から強まる可能性があるという見方ができる。

今後の焦点は、投資の量から「効率」へといかに移行できるかにある。GPU稼働率の改善、コスト可視化ツールの整備、そして推論コストの構造変化への対応が、次の段階で企業のAI競争力を左右する要因になると位置づけられる。投資を加速させるだけでなく、すでに持っているリソースをどれだけ賢く使えるかが、企業にとって次の問いになりつつある。