MIT、自己更新するAI基盤「SEAL」を発表

マサチューセッツ工科大学（MIT）の研究チームが、大規模言語モデル（LLM）が自らのパラメータ（内部の知識や判断基準を記録した数値の集合）を書き換えられるフレームワーク「SEAL」を発表した。これまでのAIモデルは、学習が完了した時点で内部の知識が固定されるのが一般的だった。SEALはその制約を超え、モデルが自分自身を更新し続ける仕組みを提供する。

SEALの核心にあるのは、強化学習（Reinforcement Learning）と呼ばれる手法だ。強化学習とは、AIがある行動をとった結果に対して報酬や罰のフィードバックを受け、より良い行動を学んでいく仕組みのことで、ゲームのAIなどで広く使われてきた。SEALではこの仕組みを、モデルが自分のパラメータを編集する行動に応用している。つまりモデルは、どのように自分を書き換えれば出力が改善されるかを、試行錯誤しながら自律的に学ぶことができる。

従来のAIモデルの運用では、知識の更新には人間のエンジニアが新たな学習データを用意し、再学習を行うプロセスが必要だった。この作業は時間とコストを要するため、モデルの知識が現実の変化に追いつきにくいという課題があった。SEALが実用化されれば、モデルが自律的に自分を更新することで、こうしたコストや遅延を大幅に削減できる可能性がある。

一方で、AIが自らのパラメータを書き換えるという性質は、安全性や制御可能性の観点から慎重な検討を要する。意図しない方向への自己更新が起きた場合、モデルの挙動が予測困難になるリスクがある。研究の実用化に向けては、こうした自己更新の範囲をどう制限し、信頼性を担保するかが重要な課題となる。

MITはAI研究の第一線に位置する機関として、モデルアーキテクチャや学習手法の分野で多くの成果を生み出してきた。今回のSEALは、「学習済みモデルは静的なもの」というこれまでの前提に一石を投じる研究であり、将来のAIシステム設計に新たな方向性を示すものとして研究者の関心を集めている。