DeepMind, 인공지능 멸종 위험에 대한 사외 발언 금지

Google DeepMind의 전 홍보담당자가 과거 해당 조직 내에서 인공지능으로 인한 인류 멸종 위험에 관한 외부 발언이 전면적으로 금지되었다고 증언했다. 발언한 사람은 전 대변인 Vishal Maini로, "조직의 어떤 수준의 누구라도 인류 멸종 가능성에 대한 외부 발신이 허가되지 않았다"고 언급했다.

인공지능의 안전성을 둘러싼 논의가 활발해지기 전부터, 인공지능 연구 기관의 내부에서는 "인공지능 정렬(인공지능의 목표와 행동을 인간의 의도와 일치시키는 것)"이 미해결 과제라는 인식이 공유되었다. Maini에 따르면, DeepMind의 팀도 그 점을 내부적으로는 이해하고 있었다는 것이다. 즉, 기술적 과제에 대한 인식과 외부에 발신할 수 있는 내용 사이에 명백한 괴리가 있었다는 뜻이다.

Maini가 언급한 구체적 내용은 두 가지로 좁혀진다. 하나는 인공지능이 인류의 존속을 위협할 가능성에 대한 공개적 언급이 직급을 불문하고 조직 전체에서 금지되었다는 방침의 존재다. 다른 하나는 동 조직의 내부에서 인공지능 정렬이 "해결되지 않았다"는 인식이 팀에 광범위하게 공유되었다는 사실이다. 현 시점에서 Google DeepMind 측의 공식 입장은 확인되지 않았다.

이 증언이 갖는 의미는 단순한 내부 방침의 폭로에 그치지 않는다고 볼 수 있다. 인공지능 안전성 관련 정보 공개의 방식, 특히 연구 기관이 "알고 있는 것"과 "발신하고 있는 것" 사이에 얼마나 큰 차이가 있는지라는 질문을 사회에 다시 던지기 때문이다. 최근 OpenAI나 Anthropic 같은 주요 인공지능 기업들이 안전성에 대한 노력을 적극적으로 홍보하는 경향이 강해지는 가운데, 과거 대형 연구 기관의 정보 관리 실태는 투명성 기준을 다시 문제삼는 관점으로서 중요한 위치를 차지한다는 견해가 있다.

인공지능 위험을 둘러싼 공개 논의는 최근 몇 년 사이에 크게 변모해왔다. 2023년 이후, 저명한 연구자들과 경영진들이 잇따라 인공지능의 장기적 위험에 대해 공개적으로 언급하게 되었으며, 과거에는 일부 전문가들 사이에 한정되었던 논의가 주류 관심사가 되었다. 이러한 흐름 속에서 대형 연구 기관이 과거 외부 발신을 제한했다는 증언은 당시 업계의 분위기를 보여주는 기록으로 주목받게 된다.

향후 초점의 하나는 이러한 내부 증언이 인공지능 연구 기관의 정보 공개 방침에 어떻게 영향을 미칠 것인가라는 점이다. 규제당국과 시민사회가 투명성을 요구하는 목소리를 높이는 가운데, 연구 기관이 위험 관련 정보를 어떻게, 어느 범위까지 공개할 것인가는 인공지능 정책 형성에도 영향을 미칠 수 있다고 위치지어진다. 전 관계자들의 증언이 계속되면, 업계 전체의 설명 책임 방식에 대한 논의가 더욱 깊어질 가능성이 있다.