OpenAI、ロシアの偽情報工作アカウントを停止

OpenAIは、ChatGPTを利用してロシア寄りの情報を欧米向けに拡散しようとした隠密の影響工作を摘発し、関与するアカウント群を凍結した。工作の実態が明らかになったことで、生成AIが実際の情報操作に使われた具体的な事例として広く注目されている。

こうした工作が行われた背景には、生成AIの急速な普及がある。文章の生成や翻訳を自動化できるAIツールは、正規のビジネス利用者だけでなく、偽情報を広めようとする組織にとっても使いやすい環境を生み出してきた。とりわけ大規模言語モデルは、自然で読みやすい文章を大量・多言語で量産できるため、情報工作の道具として悪用されるリスクが以前から指摘されていた。

確認された事実によると、工作の運営者はVPN（仮想プライベートネットワーク）を経由してロシアからOpenAIのプラットフォームにアクセスしていた。VPNは本来の所在地や身元を隠すために使われるツールで、今回はその特性を活かして追跡を逃れようとしたとみられる。工作は「インターナショナル・バーク・インスティテュート」という実在しない架空の機関を装って展開され、EUやドイツ政府を批判するドイツ語のTelegramコンテンツを含むSNS投稿を生成・拡散していた。

OpenAIによれば、今回の工作の実際の拡散規模は限定的にとどまったという。ただし同社は、この工作を支える仕組みが長期的には拡大・強化される可能性があったと警告している。つまり、現時点での影響が小さくても、放置すれば組織的なプロパガンダ網へと成長する余地があったという判断だ。

この事例が示すのは、AI企業が自社サービスの「悪用」に対して実際に対応できるという一面だ。一方で、VPNや架空団体の名称を用いるなど、発見を遅らせる工夫が施されていたことも確認されており、摘発に至るまでに一定の時間と分析が必要だったと考えられる。生成AIを活用した情報操作の手口が洗練されつつあるという見方もできる。

AI企業によるプラットフォームの「悪用防止」の取り組みは、技術的な検知能力だけでなく、どこまでポリシーを徹底できるかという運用面の課題も伴う。OpenAIが今回の摘発事例を公表したこと自体、透明性の確保と抑止力の強化を意図したものとも位置づけられる。今後は、同様の工作に対してどのような早期発見の仕組みが整備されるかが注目点になるだろう。