AIがFirefoxの脆弱性を自動で悪用、人間の介入なし

公開されているAIモデル「GLM 5.3」が、Firefoxの脆弱性を突く攻撃コードを人間の手を借りずに自動生成できることが確認された。Epoch AIの研究者らがこの事実を報告しており、48時間以内に複数のFirefoxバージョンへの攻撃チェーンを完成させたとしている。

この研究で特に注目されるのは、AIが「セキュリティ修正の公開」という情報を出発点にした点だ。ソフトウェアの開発元がバグを修正したとき、その修正内容はしばしば公開される。しかし、すべてのユーザーが即座にアップデートを適用できるわけではない。この「修正は公表されたが、まだ広まっていない」という時間差を、GLM 5.3は自動的に利用した形になる。

Epoch AIの報告によると、GLM 5.3は6つのFirefoxリリースに対してそれぞれ約1,000ドル（API利用料）をかけて侵害に成功した。また、テストしたいずれのAIプロバイダーの安全フィルターも作動しなかったとされており、既存の防衛策をすり抜けた点も確認されている。GLM 5.3はオープンウェイト型、つまり誰でもダウンロードして利用できるモデルであり、特殊なアクセス権なく入手可能という点も本件の特徴の一つだ。

従来、ソフトウェアの脆弱性を悪用する攻撃コードの開発には、高度なセキュリティ知識を持つ専門家と相応の時間が必要とされてきた。今回の事例は、そのハードルがAIによって大幅に下がる可能性を示すものとして位置づけられる。1,000ドル程度のコストで自動化できるとすれば、これまで国家レベルの組織に限られていたような高度な攻撃が、より広い範囲の攻撃者に届きうるという見方もできる。

セキュリティの文脈でとりわけ深刻なのは、安全フィルターが機能しなかったという点だ。AIプロバイダー各社は、モデルが悪意ある用途に使われないよう「ガードレール」と呼ばれる制限を設けているが、今回のテストではそれらが有効に働かなかったことが示された。これは、現在の安全設計が特定のシナリオに対して想定どおりに機能しない可能性を示唆している。

今後の焦点は、AIプロバイダーや研究コミュニティがどのように対応するかにある。安全フィルターの強化はもちろん、オープンウェイトモデルの扱いや、脆弱性情報の公開タイミングのあり方についても、改めて議論が求められる段階にきているという見方ができる。本件はAI技術そのものの問題というより、その使われ方と防衛の仕組みが追いついていないことを示す事例として、業界全体に問いを投げかけている。