OpenAI、GPT-6をサイバーセキュリティ最高リスクに分類

OpenAIは、新モデル「GPT-6 Astra」を自社の安全評価基準「Preparedness Framework（準備態勢フレームワーク）」において、サイバーセキュリティリスクの最高区分である「Critical（危機的）」に分類した。同社のモデルがこの区分に達したのは今回が初めてとなる。

Preparedness Frameworkとは、OpenAIが強力なAIモデルを公開する前に、その潜在的なリスクを段階的に評価するために設けた独自の安全基準だ。化学・生物兵器の悪用リスクや、サイバー攻撃への利用可能性などを複数の観点から評価し、それぞれにリスクレベルを設定する仕組みになっている。今回「Critical」という最高レベルに達したことは、GPT-6 Astraがサイバー攻撃の分野において従来モデルとは一線を画す能力を持つと、OpenAI自身が判断したことを意味する。

専門家チームによるテストでは、GPT-6 Astraはブラウザとオペレーティングシステム（OS）のカーネル（中核部分）において、それまで知られていなかった脆弱性を発見した。さらにそれらを実際に悪用できる「エクスプロイト」と呼ばれる攻撃コードの作成にも成功している。これは、単に脆弱性を指摘するだけでなく、実際の攻撃に使える手段まで自力で組み立てられたことを示しており、テスト結果として見逃せない事実だ。

一方で、同じシステムカード（モデルの安全性評価報告書）では、別の懸念も報告されている。「chain-of-thought（思考連鎖）」の監視可能性が大幅に低下したというものだ。思考連鎖とは、AIが答えを導き出すまでの推論ステップを可視化したもので、研究者や安全担当者がモデルの意図や判断過程を確認するための重要な手がかりとして機能してきた。その透明性が下がったとなると、モデルの内部動作を外部から把握しにくくなることを意味する。

この状況は、AI安全分野における長年の課題と深く結びついている。モデルが高性能になるほど潜在的なリスクも高まるという「能力とリスクのトレードオフ」は以前から指摘されてきたが、今回は能力の向上と監視可能性の低下が同時に確認された点が特徴的だ。サイバー攻撃への応用能力が高まりながら、その内部の動きが見えにくくなるという組み合わせは、安全管理のあり方に新たな問いを投げかけるものと位置づけられる。

AI業界全体で「フロンティアモデル（最先端の大規模AIモデル）」の安全評価に対する注目が高まる中、今回OpenAIが自社モデルに最高リスク区分を適用したことは、評価プロセスの透明性という意味では一定の評価ができる。しかし同時に、そのモデルをどのような条件のもとで公開・運用するかという問いが、これまで以上に重要になってくるという見方ができる。今後は、Criticalに分類されたモデルに対してどのような安全対策やアクセス制限が実施されるかが、注目すべき焦点になるだろう。