カリフォルニア州知事、AIに「緊急停止」命令

米カリフォルニア州のギャビン・ニューサム知事が、AI（人工知能）モデルに「緊急停止スイッチ（キルスイッチ）」の導入を求める大統領令（行政命令）に署名した。あわせて、AI企業の内部に独立した監査人を置くことも要求しており、州政府としてAI安全管理の仕組みを整備する姿勢を明確にした形だ。

この動きの背景には、連邦（国）レベルのAI規制が十分に整っていないという現状がある。ニューサム知事は、現時点では危険なインシデントをAI企業に報告させる連邦法が存在しないと指摘している。つまり、AIが重大なリスクをもたらす事態が起きても、企業が情報を開示する法的義務が連邦レベルには課されていないという状況だ。こうした規制の空白を州独自の行政命令で補おうとするのが、今回の措置の主な狙いと見ることができる。

行政命令の具体的な内容として確認されているのは、大きく二つだ。一つは、AI企業の内部に独立した立場の監査人を設置すること。もう一つは、問題が生じた際にAIモデルを強制停止できる「キルスイッチ」の導入を求めること。さらに、安全に関する具体的な勧告をまとめるための専門家パネルが設置され、2か月以内に提言を提出することとなっている。

「キルスイッチ」とは、AIシステムが想定外の動作をしたり、重大なリスクが確認された場合に、そのシステムを素早く停止・制御するための仕組みを指す。AI技術の急速な普及にともない、万が一の際に人間が確実に制御を取り戻せるよう備えることは、国際的な安全議論でも重視されてきた考え方だ。今回の行政命令はこの考えを州の政策として具体化しようとするもので、実効性のある安全網をどう設計するかが問われることになる。

カリフォルニア州はOpenAIやGoogleなど主要なAI企業が集積する地域であり、同州の政策はAI産業全体に影響を及ぼしやすい立場にある。今回のような州レベルの規制措置は、連邦政府が包括的なAI法整備に踏み出せていない中で、個別の州が先行して安全基準を設けようとする動きの一例と位置づけられる。

専門家パネルが2か月以内にまとめる提言の内容が、実際の政策設計を左右する重要な節目となる。監査の独立性をどう担保するか、キルスイッチの発動基準をどう定めるかといった詳細はまだ確定していない。今後はパネルの提言内容と、それを受けた州政府の具体的な制度設計の行方に注目が集まるという見方ができる。

連邦レベルの規制空白を州が補う構図は、AI分野に限らず過去にも見られたパターンだ。しかし、AI技術はサービスの多くがネットを通じて州境を越えて提供されるため、州単位の規制がどこまで実効性を持てるかは一つの課題でもある。今回の行政命令がひな型となり、他州や連邦レベルの議論を促す契機になるかどうかが、中長期的な注目点といえる。