値下げで消えないAIコスト問題

DeepSeekが主力モデル「V3-Pro」の提供価格を75%引き下げた。表面上はAI開発者にとって朗報のように見えるが、企業の現場では「コストが楽になった」という実感が広がっていない。その理由は、モデルの単価が下がるペースよりも、AIエージェントが消費するトークン（AIの処理単位）の量が速いペースで膨らんでいることにある。

ソフトウェア業界ではここ20年、インフラコストは毎年下がり、アプリケーションの性能は上がり続けるという法則が成り立ってきた。AIも当初は同じ流れに乗ると見られており、モデルの性能が上がり価格が下がれば、推論コスト（AIに問いかけるたびにかかる処理費用）はやがて無視できる水準になると多くの開発者が想定していた。しかしその前提が、AIエージェントの普及によって崩れつつあるという見方ができる。

従来のチャットボットは、ユーザーの質問ひとつに対してモデルへの呼び出しもほぼひとつで済んだ。一方、AIエージェントは同じ質問を受け取ったとき、計画立案・情報検索・ツール利用・結果の検証・要約・追加判断といった複数のステップを連鎖的に実行する。ユーザーには最終的な答えがひとつ返るだけだが、その裏側ではモデルへの呼び出しが何度も繰り返され、そのたびに課金が発生する。原文ではこれを「100倍問題」と呼んでいる。

具体的な数字で見ると、その差は極めて大きい。一問一答のチャットボットでは、ユーザーの入力1に対してシステムが課金される処理量の比率はおおむね1対5程度にとどまる。ところが、カスタマーサポートや法務確認などの業務に投入された多段階エージェントでは、同じ比率が1対700以上に達することがあるとされる。たとえば「先週、主要顧客からどんな問い合わせがあったか」という一文の質問でも、システムプロンプトの繰り返し読み込み・検索結果の取得・複数回のモデル呼び出し・出力の整形など、7つの課金対象オペレーションが走り、合計で約3万5000トークン分の処理が発生することがある。

こうしたコスト構造は、AIサービスを提供するモデルプロバイダーの価格設定にも透けて見える。OpenAIがYコンビネーターに採択されたスタートアップ企業に対してAPI利用クレジット200万ドル分の提供プログラムを提案したとされることは、AIネイティブな企業が最初の1年間を乗り越えるために必要なコストの水準を示す一例として読むことができる。以前のテック系スタートアップは数千ドル程度のクラウドクレジットで初期開発をまかなえていたことと比べると、その規模感の違いは際立つ。

根本的な問題は、モデルの単価を下げても、製品のアーキテクチャそのものが変わらなければコストは減らないという点にある。エージェントは構造上、ひとつのユーザー操作を何十もの課金オペレーションに変換する。ループのたびに、それまでの会話履歴・ツールの出力・推論の経過が蓄積され、次のステップへ引き継がれる。何も省略されないため、トークン数は積み上がり続ける。単価の値下げはその傾向を緩和する効果はあっても、構造的な問題を解消するには至らない。

AIエージェントが業務システムに深く組み込まれるほど、このコスト増幅の仕組みはより顕著になるという見方ができる。開発者や企業にとっては、モデルの価格だけでなく、エージェントの設計がどれだけ効率的にトークンを使えるかが、収益構造に直結する重要な判断軸になりつつある。モデル価格の競争が続く中で、次の焦点は「いかに少ないトークンで同じ成果を出すか」というアーキテクチャ側の工夫に移っていくと位置づけられる。