오르트만 회장, AI 안전의 3가지 시나리오를 사내에서 제시

OpenAI의 CEO 샘 오르트만 회장이 AI를 안전하게 관리하기 위한 3가지 시나리오를 사내 프레젠테이션에서 제시한 것으로 드러났다. 모두 현재의 AI 개발 경쟁이 그대로 무질서하게 계속되는 것에 대한 강한 문제의식을 출발점으로 하고 있으며, 업계의 전개 방향을 생각하는 데 있어 주목할 만한 내용이다.

AI의 급속한 발전이 계속되는 가운데, 주요 연구기관과 기업이 각각 독자적으로 개발을 경쟁하는 상황은 안전 관리의 관점에서 보면 큰 위험을 내포하고 있다. 핵무기나 생물무기와 마찬가지로, 능력이 높은 AI를 어느 조직이, 어떻게 관리·감시할 것인가라는 문제는 국제사회에서도 진지하게 논의되기 시작했다. 그러한 흐름 속에서 AI의 최고 기업을 이끄는 오르트만 회장 자신이 구체적인 시나리오를 사내에서 제시한 것은 업계 내부에서도 문제의식이 높아지고 있음을 보여주는 것으로 볼 수 있다.

오르트만 회장이 제시한 첫 번째 시나리오는 국제원자력기구(IAEA)를 모델로 한 국제적 감시 기구를 설립하는 것이다. IAEA는 핵기술의 관리·감시를 국제적으로 담당하는 조직이며, 이를 AI판으로 구축하자는 생각이다. 두 번째는 주요 AI 연구기관·기업을 하나의 조직으로 통합하는 안으로, 난립하는 개발 주체를 집약함으로써 관리를 일원화하려는 발상이다.

세 번째 시나리오는 한 기업이 압도적인 힘을 가져 다른 기업이나 기관이 보유한 계산 자원(GPU 등 AI 처리에 사용하는 하드웨어)을 기능 정지시킬 수 있을 정도의 지배력을 갖는다는 것이었다. 오르트만 회장 자신은 이 안을 '끔찍하다(terrible)'고 평가하고 있으며, 현실적인 선택지로 추천한 것이 아니다. 오히려 장래에 일어날 수 있는 극단적인 귀결의 하나로 제시한 것으로 생각된다.

이 3가지 시나리오가 지니는 의미는 AI 안전 논의의 현주소를 비추는 거울로 파악될 수 있다. 기술의 진화에 대해 국제적 체계의 정비는 대폭 뒤처져 있으며, 어느 주체가·어떤 규칙 속에서·누구의 감시 아래 AI를 개발·운용할 것인가라는 물음에는 아직 세계적 합의가 존재하지 않는다. 오르트만 회장이 제시한 시나리오는 그 공백을 어떻게 채울 것인가를 둘러싼 사고 실험으로 위치지을 수 있다.

향후 주목해야 할 점은 이러한 구상이 기업 내 논의에 그칠 것인지, 아니면 정책과 국제적 대화에 영향을 미쳐 나갈 것인지이다. AI를 국제적으로 관리하기 위한 체계 구축은 각국 정부와 국제기구에서도 모색되고 있는 단계이다. 업계 최고 지도자가 내부에서 어떤 미래상을 그리고 있는지는 그 논의의 방향성을 점치는 데 있어 하나의 중요한 단서가 될 수 있다는 견해가 있다.