Google、端末向けML開発APIを公開

Googleは、機械学習モデルをデバイス上で直接動かすための軽量なC++ライブラリ「LiteRT Tensor API」を公開した。このAPIを使うと、開発者はクラウドに依存せず、スマートフォンや組み込み機器などの端末内でモデルの構築・カスタマイズ・最適化を行うことができる。

そもそも「オンデバイスAI」とは、推論処理をサーバーではなく手元の端末で完結させる仕組みを指す。クラウド経由の場合はネットワーク遅延やプライバシーの懸念が生じやすいのに対し、オンデバイスでは応答速度の向上やデータの端末内完結が実現しやすい。こうした背景から、スマートフォンやIoT機器向けの軽量なAI実行環境への需要は近年高まり続けており、LiteRT Tensor APIはその流れに応える位置づけとみられる。

GoogleによるとLiteRT Tensor APIは、モデルをゼロから書けるネイティブな柔軟性と、異なるOS・ハードウェアをまたいで動かせるクロスプラットフォームの移植性を両立していることが特徴だという。ベースとなる言語にC++を採用しており、パフォーマンスを重視した実装が必要な場面でも対応できる設計となっている。

このAPIが重要な理由は、開発者が単一のコードベースで複数のプラットフォームに対応したオンデバイスモデルを作れる点にある。これまではターゲット環境ごとに実装を書き直す手間が生じがちだったが、移植性を備えたAPIがあれば開発コストの削減につながると考えられる。AIを端末内で動かすユースケースが広がる中で、ツール整備が先行している点は、エコシステム形成の観点からも注目に値するといえる。

今後は、開発者コミュニティがLiteRT Tensor APIをどのようなアプリケーションに活用していくかが、このAPIの実質的な価値を測る指標になるだろう。特に、既存のオンデバイス推論フレームワークとの比較や、実際の端末での性能・消費電力の検証結果が、採用拡大のカギを握るという見方ができる。Googleが今後どの程度のサポートやドキュメントを整備していくかにも、引き続き注目する必要がある。