企業のAI投資、コスト管理が追いつかない実態

企業のAIインフラへの投資が、コストを把握・管理する能力を大きく上回っている。VentureBeat Pulse Researchが107社の企業を対象に行った調査で、この「コンピュートギャップ」とも呼ぶべき乖離の実態が明らかになった。AIシステムをフル規模で本番運用できている企業はわずか21%にとどまる一方で、インフラ支出の拡大意欲は高く、投資の成熟度と支出のペースが噛み合っていない状況が浮かび上がった。

AIの処理能力を支えるGPU（画像処理装置）の稼働状況を見ると、問題の深刻さがわかる。調査対象企業の83%が、保有するGPUの利用率を50%以下と回答した。つまり、購入した処理能力の半分以上を使い切れていない企業が大多数を占めるということだ。さらに、自社のAIコンピュートにかかる費用を厳密に把握・追跡できていると答えた企業は44%に満たなかった。投資を加速させながらも、その費用対効果を測る仕組みが整っていない企業が多いことを示している。

インフラの調達先についても、固定化は進んでいない。調査では64%の企業が、今後12か月以内にインフラ提供事業者を変更または追加する意向を持つと回答した。さらに38%は、その時期を今後3か月以内と答えている。これだけ基幹的なカテゴリでのプロバイダー乗り換え意向がこれほど高いのは、業界全体として調達の見直し局面にあることを示唆している。

事業者を選ぶ際の判断基準も注目に値する。既存システムとの統合しやすさを重視すると答えた企業は41%、総保有コスト（TCO）を重視すると答えた企業は35%だった。一方、表面上のトークン単価（AIが文章を処理する際の1単位あたりの料金）を最重要視する企業は8%にとどまった。表面的な価格よりも、導入後の運用全体にかかるコストや使い勝手を重視する傾向が強まっていることがわかる。

今後1年間でどのインフラを評価・検討する予定かという問いでは、「AIに特化したクラウドサービス」と答えた企業が45%と最多だった。現時点でこの種のサービスを実際に使っている企業はほとんどいないにもかかわらず、次の投資先として最も関心を集めているという、計画と実態のズレも確認された。また、AIの推論処理が大規模化するにつれてGPUの演算能力よりもメモリ帯域幅（データをやりとりする速度）がボトルネックになるという業界的な変化についても、5社に1社程度がまだ認識していないか、対応を検討していない段階にある。

この調査が示す構図は、AI投資の「見えないコスト」問題として整理できる。支出の拡大そのものは企業のAI活用への意欲を反映しているが、使い切れていないGPUや追跡できていないコストは、投資効率の低下を招くリスクをはらんでいる。インフラ整備と並行して、コスト可視化の仕組みを整えることが、今後のAI活用の競争力を左右するひとつの鍵になるという見方ができる。

AIインフラの調達を急ぐ企業にとっては、「何を買うか」と同じくらい「今持っているものをどう使い切るか・測るか」が問われる段階に差し掛かっていると言える。GPUの稼働率や運用コストの可視化といった「管理の基盤」に投資するかどうかが、今後のインフラ投資の効果を大きく左右するという点で、この調査結果は業界全体への問いかけとして受け止める価値がある。