OpenAIとBroadcom、AI推論専用チップを共同開発

OpenAIとBroadcomが共同でAI推論専用チップの開発に取り組んでいることが明らかになった。推論とは、学習済みのAIモデルが実際に問いかけに答えを出す処理のことで、利用者がAIを使うたびに発生するコストに直結する工程だ。このチップはそうした推論処理の効率化を目的として設計されている。

AIサービスの普及が進む中、利用量に応じて課金される「トークン単価」は企業にとって見過ごせないコスト要因になってきた。テキストを処理する最小単位をトークンと呼び、AIへの問いかけや回答の生成にはこのトークンが消費される仕組みだ。利用規模が大きくなるほどコストが膨らむため、特に大量にAIを活用したい企業ほど単価の高さを懸念する傾向がある。

今回のチップが実用化されれば、AIモデルを提供する側がトークン単価を引き下げる選択肢を持てるようになるという。これは、コスト面でのハードルを下げることで、AI活用に二の足を踏んでいた企業の不安を和らげる可能性を持つ。

現在、AI推論の処理には主にNVIDIAのGPUが広く使われており、同社はこの領域で圧倒的なシェアを持つ。OpenAIとBroadcomの取り組みは、特定ベンダーへの依存を減らし、推論インフラの選択肢を広げるという文脈で位置づけられる。自社設計のチップを持つことで、コスト構造をより細かくコントロールできるという見方もできる。

Broadcomは通信・半導体分野で長い実績を持つ企業で、近年はAI向けカスタムチップ（ASIC）の受託設計においても存在感を高めている。OpenAIのようなAIモデル開発企業と組むことで、実際の推論ワークロードに最適化した専用設計が可能になる。汎用GPUとは異なり、特定の処理に絞り込んだチップは電力効率やコストで優位に立ちやすいという特性がある。

AIの商用利用が本格化するにつれ、推論コストをどう抑えるかはサービス設計の根幹に関わる問題になりつつある。今回の動きは、モデルの性能競争と並行して、インフラコストの最適化という新たな競争軸が業界全体で重要性を増していることを示していると言える。推論チップの開発・調達戦略が、今後のAIサービスの価格や普及速度を左右する要因のひとつとして注目される。