Google、API Gatewayにストリーミング機能を追加

GoogleはAPI Gatewayにストリーミング通信のサポートを追加し、パブリックプレビューとして公開した。これまでのAPI Gatewayは、クライアントがリクエストを送り、サーバーが応答を返すという「一問一答」形式の通信モデルが基本だった。今回の更新により、データを連続的に流し続けるストリーミング通信にも対応できるようになった。

API Gatewayとは、アプリケーション間でやり取りされるデータの入口・出口を一元管理するクラウドサービスの機能だ。企業がさまざまなアプリやサービスを連携させる際の「交通整理役」と言える。従来の一問一答モデルはシンプルで扱いやすいが、リアルタイムでデータを流し続ける用途には向いていなかった。ストリーミング対応はそのギャップを埋めるための拡張にあたる。

Googleによると、このストリーミング機能が特に有効なのはAIアプリケーションの分野だという。具体的には、AIモデルが回答を少しずつ出力する「ストリーミングレスポンス」、複数のステップを経て動作する「マルチステップエージェントワークフロー」、そしてユーザーとAIが継続的に対話する「インタラクティブセッション」などが想定される用途として挙げられている。

なぜこの対応が今、重要な意味を持つのかを理解するには、AI活用の最近の潮流を押さえておく必要がある。ChatGPTに代表される生成AIでは、回答が一度に返ってくるのではなく、文字が少しずつ表示される形式が一般的になっている。これはストリーミング通信によって実現されており、ユーザーにとっては「待ち時間」のストレスを軽減する効果がある。企業がこうしたAI機能を自社サービスに組み込もうとすると、インフラ側でもストリーミングに対応した仕組みが必要になる。

また、AIエージェントと呼ばれる自律的に複数の処理を実行するAIシステムの普及も、ストリーミング対応を必要とする背景として挙げられる。エージェントは複数のAPIを呼び出しながら段階的に処理を進めるため、途中経過をリアルタイムに受け取れる通信の仕組みが求められる。従来の一問一答モデルでは、すべての処理が終わるまで結果を待ち続ける必要があり、体験上の制約になっていた。

今回の機能追加は現時点でパブリックプレビューの段階にあり、正式な一般提供はまだ行われていない。プレビューは開発者や企業が実際に試しながらフィードバックを提供するフェーズで、機能の仕様や提供条件が変わる可能性がある点には留意が必要だ。Google Cloud上でAPI Gatewayを利用している開発者にとっては、実装を検討する際の最初の手がかりとなるタイミングと言えるだろう。

クラウドサービス各社がAIワークロードへの対応を競う中、インフラ層でのストリーミング対応はAI機能を組み込んだアプリケーション開発の実現可能性を広げる動きとして位置づけられる。今後は正式リリースに向けた仕様の確定や、他のGoogle Cloudサービスとの連携拡充といった点が注目される。