数学者42人、AIの存在リスクを公開書簡で警告

英国王立協会（Royal Society）のフェロー42人が、人工知能がもたらす存在リスクについての公開書簡に連名で署名した。署名者には、数学の最高賞とされるフィールズ賞の受賞者であるマーティン・ハイラーとペーター・ショルツェが含まれており、世界トップレベルの数学者たちが一致して懸念を示したかたちとなる。

書簡が指摘する根拠の一つは、最新のAIモデルが示した問題解決能力の急速な向上だ。これまで未解決とされてきた数学の研究課題が、AIによって数カ月のうちに解かれるようになったという。こうした能力は、純粋な学術研究の加速という側面だけでなく、サイバー攻撃や生物兵器の開発といった分野にも同様に応用できるという点が、書簡の核心にある懸念だ。

書簡はさらに、社会がこの状況の深刻さを十分に理解する頃には、適切な対処が難しくなっている可能性があると述べている。つまり、問題への認識が広がるペースより、技術の進化と影響の拡大のほうが速いという見立てだ。このタイムラグこそが、専門家たちが公開という形式を選んで声を上げた理由の一つと考えられる。

背景として押さえておきたいのは、こうした警告が数学者という立場から発せられていることの重みだ。AIリスクをめぐる議論はこれまで、AI研究者や倫理学者、政策立案者の間で主に展開されてきた。今回、純粋数学の第一線にいる研究者たちが署名したことは、懸念が特定のコミュニティに限らない広がりを持ちつつあることを示していると位置づけられる。

AIの能力が数学的な難問を解けるほど高度化しているという事実は、その能力の「汎用性」を改めて浮き彫りにする。ある問題を解くための推論能力は、問題の種類を選ばない。サイバーセキュリティの脆弱性を突く手法の探索や、生物学的な脅威の設計支援に転用されるリスクは、純粋に技術的な観点からも否定しにくい。書簡が挙げた具体例は、AI能力の進化を学術的な文脈だけで語ることの限界を示しているという見方ができる。

今後注目すべき点は、こうした声明が政策や規制の議論にどう影響するかだ。科学コミュニティの著名な研究者が連名で警告を発したことで、各国政府や国際機関がAIのリスク管理に関する具体的な枠組みを検討する際の一つの根拠になりうる。懸念の表明にとどまらず、どのような対応策が提案・議論されていくかを追うことが、次のステップとして重要だと考えられる。