Unikraft、AIサンドボックスを1サーバーに100万個集約

Unikraftの開発者であるFelipe Huiciは、AIワークロードのサンドボックス（隔離実行環境）において、1台のサーバーに最大100万個の環境を詰め込む高密度化を実現するアプローチを発表した。あわせて、コールドブート（電源オフ状態からの起動）をミリ秒単位で完了させる技術と、処理がないときにリソースを完全に解放し、必要になれば状態を保持したまま再起動できる「ステートフルなスケールゼロ」についても説明している。

AIインフラの現場では、推論リクエストの急増に対応しながらも、アイドル時のコストを抑えることが長年の課題となっている。サンドボックスは互いの処理を隔離してセキュリティを確保するための仕組みだが、従来の仮想マシンやコンテナは起動に秒単位の時間がかかり、密度も限られていた。これが、リクエストの波に応じて環境を瞬時に増減させるうえでの大きなボトルネックになっていた。

Huiciが示したアプローチの中心にあるのは、Linuxカーネルの最適化と、実行中の状態をそのまま保存・復元する「スナップショット」技術の活用だ。これらを組み合わせることで、起動時間を10ミリ秒未満に抑えながら大規模なスケールを実現できるという。さらに、ハードウェアレベルのセキュリティ機能を維持したまま、Kubernetes（コンテナ管理の標準基盤）とシームレスに統合できる点も強調されている。

技術的な隔離の手法としては、「アイソレーションプリミティブ」と呼ばれる、セキュリティ境界を設けるための低レイヤーの仕組みが使われている。仮想化の軽量な形態であるユニカーネル（Unikraft）をベースにすることで、フルOSを丸ごと動かすのではなく、必要な機能だけを最小限のサイズで動作させる。これにより、起動オーバーヘッドを大幅に削減している。

この取り組みが示す意味は、単なる性能改善にとどまらない。AIモデルへのアクセスを関数単位・リクエスト単位で課金するサービス形態（いわゆるサーバーレスAI推論）において、コスト効率と応答速度を両立する上で、インフラ側のアーキテクチャが決定的な役割を果たすという点だ。従来は「速さ」か「密度」か「セキュリティ」かのトレードオフを強いられることが多かったが、このアプローチはその三つを同時に追求しようとするものと位置づけられる。

Kubernetesとの統合を前提にしている点も注目に値する。現在、多くの企業がAI推論環境の管理にKubernetesを採用しており、既存のインフラを大きく作り直さずに高密度化・高速化の恩恵を受けられる可能性があるという見方ができる。今後は、こうした軽量仮想化技術がクラウドプロバイダーや推論サービス事業者に採用されていくかどうかが、注目ポイントになるだろう。