Amazon、Anthropicモデルを社内向けに小型化

Amazonのエンジニアが、Anthropicの大規模AIモデルを社内利用向けに小型・低コスト版へ変換する作業を進めていることが報じられた。この手法は「蒸留（ディスティレーション）」と呼ばれ、大きなモデルの知識をより小さなモデルに転移させる技術だ。一般に、小型化されたモデルは処理コストを大きく抑えられる。

この動きの背景には、料金体系の変更がある。現在AmazonはAnthropicのモデルを利用する際に計算処理時間（コンピュート時間）を基準にコストを支払っているが、来年からはモデルが処理したトークン（テキストの最小単位）の数に応じた課金方式へ移行する予定だ。トークンベースの課金は利用量が増えるほどコストが積み上がりやすく、大規模な社内利用を続ければ費用が大幅に増加する可能性がある。

こうした状況を受け、Amazonは並行してOpenAIなど他のAIプロバイダーを代替として検討していることも明らかになっている。特定のAI企業への依存を減らし、コスト面での柔軟性を確保しようという意図がうかがえる。蒸留による社内モデルの自製と、外部サービスの比較検討という二方向のアプローチを取っている格好だ。

Amazonは2023年にAnthropicへ最大40億ドルの投資を行い、自社のクラウドサービス「AWS」を通じてAnthropicのモデルを提供するなど、両社は深い協力関係にある。それだけに、今回の社内コスト削減に向けた取り組みは、投資・事業提携の関係とは別に、あくまで社内コスト管理の観点から生じたものとして注目される。

モデルの蒸留は、AIを大規模に活用する企業が増える中で、コスト管理の手段として広く使われるようになっている。大手AIモデルをそのまま使い続けることは、利用量の拡大とともにコスト圧力を高めるため、自社ニーズに合わせた小型モデルの作成は合理的な選択肢と位置づけられる。Amazonほどの規模の企業であれば、その影響も小さくないという見方ができる。

一方で、蒸留によって作られたモデルは元のモデルと完全に同じ性能を持つわけではない。精度やできることに制約が生じる場合があり、どの用途に適用できるかを見極める必要がある。社内業務の自動化や補助ツールとしての用途であれば十分な場合も多く、用途に応じた使い分けが今後の焦点になると考えられる。

来年の料金体系移行を前に、Amazonがどのような形でAIコストを最適化していくかは、同様のコスト課題を抱える他の大企業にとっても参考になる動向だ。AI活用コストの管理をめぐる企業の戦略は今後も多様化していく可能性があり、プロバイダー側の価格設定と利用企業の自製・調達戦略のせめぎ合いが続くとみられる。