テンセントAI責任者、AIと生物兵器リスクを警告

テンセントのチーフAIサイエンティスト、Vinces Yao Shunyu氏が、AIが近い将来に生物兵器の開発を可能にするリスクを警告した。同氏はその上で、このリスクへの対応策として、AIモデルを完全に非公開にするのではなく、オープンとクローズドの中間的なアプローチが必要だと主張している。

AIの安全性をめぐる議論では、モデルを一般公開すべきか、企業が管理し続けるべきかという対立が続いている。オープンソース（誰でも利用・改変できる公開型）のモデルは安全フィルターが設けられているが、「アブリタレーション」と呼ばれる手法で比較的容易に取り除けることが知られている。一方、Anthropicの「Claude」のように非公開で運用されているモデルは、安全上の懸念がある問い合わせに対して過剰に制限をかけてしまうケースが多いとYao氏は指摘する。

こうした課題を受け、テンセントは独自のアプローチを取ろうとしている。同社が開発中のオープンウェイト（モデルの重みを公開する形式）モデル「Hy4」では、安全フィルターを後付けで設けるのではなく、危険なハッキング知識をトレーニングデータの段階から除外する方針を採用している。いわばモデルが学ぶ「教科書」そのものから有害な知識を取り除くという考え方だ。

この方法は、現在主流の安全対策とは根本的に異なる。多くのモデルは学習後にフィルターを追加する形で安全性を担保しようとするが、前述のアブリタレーションのような手法でそのフィルターを回避されるリスクがある。これに対し、学習データ自体を制御するアプローチは、フィルターを「後から剥がす」ことを困難にするという点で、より根本的な対策と位置づけられる。

AIと生物兵器の組み合わせは、安全保障の専門家や研究者の間で以前から懸念されてきたテーマだ。AIが高度な科学的知識を学習・生成できるようになるにつれ、危険な生物学的物質の合成手順などを誤って、あるいは意図的に提供してしまうリスクが現実味を帯びてきている。大手AI企業がこの問題をどう扱うかは、技術開発の倫理的な枠組みを左右する重要な問いでもある。

テンセントのYao氏の発言は、AIの安全性議論に「開放か閉鎖か」の二項対立ではなく、設計段階からリスクを制御するという第三の視点を示したものと見ることができる。今後、Hy4の公開後にそのアプローチが実際にどこまで有効かが問われることになる。AIモデルの安全設計における実践的な事例として、業界内外から注目を集めそうだ。