캘리포니아 주지사, AI에 '긴급 정지' 명령

미국 캘리포니아 주의 개빈 뉴섬 주지사가 AI(인공지능) 모델에 '긴급 정지 스위치(킬스위치)' 도입을 요구하는 대통령령(행정명령)에 서명했다. 이와 함께 AI 기업 내부에 독립적 입장의 감시인을 배치하도록 요구하고 있으며, 주 정부로서 AI 안전 관리 체계를 정비하려는 의지를 명확히 드러냈다.

이 조치의 배경에는 연방(국가) 차원의 AI 규제가 충분히 정비되지 않았다는 현실이 있다. 뉴섬 주지사는 현재 위험한 사건을 AI 기업에 보고하도록 의무화하는 연방법이 존재하지 않는다고 지적하고 있다. 즉, AI가 중대한 위험을 초래하는 사태가 발생해도 기업이 정보를 공개할 법적 의무가 연방 차원에는 부과되지 않았다는 상황이다. 이러한 규제의 공백을 주 독자의 행정명령으로 보완하려는 것이 이번 조치의 주된 목적으로 볼 수 있다.

행정명령의 구체적인 내용으로 확인되는 것은 크게 두 가지다. 하나는 AI 기업 내부에 독립적 입장의 감시인을 배치하는 것이다. 다른 하나는 문제가 발생했을 때 AI 모델을 강제로 정지할 수 있는 '킬스위치' 도입을 요구하는 것이다. 나아가 안전에 관한 구체적인 권고안을 마련하기 위한 전문가 패널이 설치되며, 2개월 이내에 의견을 제출하기로 했다.

'킬스위치'란 AI 시스템이 예상 밖의 동작을 하거나 중대한 위험이 확인된 경우 그 시스템을 빠르게 정지·제어하는 메커니즘을 지칭한다. AI 기술의 급속한 보급에 따라 만의 하나의 사태에 대비해 인간이 확실하게 제어력을 되찾을 수 있도록 준비하는 것은 국제적 안전 논의에서도 중시되어 온 생각이다. 이번 행정명령은 이러한 생각을 주의 정책으로 구체화하려는 것이며, 실효성 있는 안전망을 어떻게 설계할 것인가가 문제가 된다.

캘리포니아 주는 OpenAI와 Google 등 주요 AI 기업이 밀집한 지역이며, 동주의 정책은 AI 산업 전체에 영향을 미치기 쉬운 위치에 있다. 이번과 같은 주 차원의 규제 조치는 연방 정부가 포괄적인 AI 법정비에 나서지 못하고 있는 가운데 개별 주가 먼저 안전 기준을 설정하려는 움직임의 한 사례로 위치지어진다.

전문가 패널이 2개월 이내에 마련하는 의견의 내용이 실제 정책 설계를 좌우하는 중요한 전환점이 된다. 감시의 독립성을 어떻게 확보할 것인가, 킬스위치의 발동 기준을 어떻게 정할 것인가 하는 세부 사항은 아직 확정되지 않았다. 향후 패널의 의견 내용과 이를 받은 주 정부의 구체적인 제도 설계의 향방에 관심이 집중될 것으로 보인다.

연방 차원의 규제 공백을 주가 보완하는 구도는 AI 분야에만 한정되지 않고 과거에도 볼 수 있었던 패턴이다. 그러나 AI 기술은 서비스의 대다수가 인터넷을 통해 주 경계를 넘어 제공되기 때문에, 주 단위의 규제가 어느 정도까지 실효성을 가질 수 있는지는 하나의 과제이기도 하다. 이번 행정명령이 모델이 되어 다른 주나 연방 차원의 논의를 촉발하는 계기가 될 수 있을지 여부가 중장기적 관심사라고 할 수 있다.