企業のGPU、86%が半分以下の稼働率

AI投資の実態を示す調査結果が公表された。VentureBeat Researchが2025年6月に実施した調査によると、自社でGPUを運用する企業の86%が、その稼働率を50%以下と回答した。調査対象は従業員100名以上の企業に勤める573名の技術リーダーで、AIシステムの各構成層にまたがる5つの並行調査として実施されている。

この数字が意味するのは、多くの企業がコストの高いAI用ハードウェアを購入・設置しながら、実際には半分程度しか使いきれていないという現実だ。AI向けGPUは導入費用が非常に高く、企業にとって大きな設備投資にあたる。それにもかかわらず稼働率が低いということは、投資に見合った成果が得られていない可能性を示唆している。ウォール街では「AI投資は過剰ではないか」という議論が続いているが、今回の調査はまさに購入側の企業自身が測定したデータであり、その重みは小さくない。

問題をさらに深刻にしているのが、コスト把握の不十分さだ。AIの計算コストや投資対効果を「厳密に追跡している」と答えた企業は44%にとどまり、残りの企業はおおよその見当で運用していることになる。また、エージェント（自律的にタスクをこなすAIプログラム）の運用コストを請求書が届いて初めて把握するという「後追い管理」の状態にある企業が27%存在することも明らかになった。予算の上限設定やリアルタイムの監視なしに運用が続いているわけだ。

それでも企業のAI投資意欲は衰えていない。今後12か月以内に評価を検討している新たな計算基盤として、AIに特化したクラウドサービス（CoreWeave、Lambda、Crusoe、Nebiusなど）を挙げた企業が45%に上る。一方で、現時点でこれらの新興クラウドを実際に利用している企業は2%未満にすぎない。関心と実態の間には大きな開きがある。

Nvidiaへの依存度を下げる動きも調査から読み取れる。今後12か月で評価する可能性が高い新興の計算基盤として、AWSのTrainium、GoogleのTPU、AMDなどNvidia以外のアクセラレーターを挙げた企業が32%あった。次世代のNvidia GPUを挙げた企業の28%をわずかに上回っており、GPU市場で圧倒的なシェアを持つNvidiaへの一定の警戒感がうかがえる。

企業がAIエージェントの管理体制を整える前に展開を進めていることも、調査では浮き彫りになっている。過去12か月でエージェントに関するセキュリティインシデントや、被害に至る前に発見されたヒヤリハットを経験した企業は54%に達した。また、今後12か月以内に管理体制の各層でベンダーを切り替えるか追加する予定があると答えた企業は約6割にのぼり、四半期内の移行を検討している企業も層によっては約3割存在する。

今回の調査が示す全体像は、AI導入のスピードと管理体制の整備がかみ合っていないという構造的な課題だ。新たなハードウェアやクラウドサービスへの投資を決める前に、まず手元のGPUの稼働率やワークロードごとのコストを正確に把握することが優先課題と位置づけられる。企業がAIへの支出を正当化するためには、投資対効果を可視化する仕組みの構築が、技術選定と同等以上に重要になるという見方ができる。