전 DeepMind 연구부문장, AI 자기개선에 회의적 견해

Google의 AI 연구 기관 DeepMind에서 연구부문을 이끌었던 Oriol Vinyals 신이 AI의 '지능폭발' 시나리오는 현실화되기 어렵다는 입장을 제시했다. 지능폭발이란 AI가 자신을 반복적으로 개선함으로써 능력이 지수함수적으로 향상된다는 가설로, 일부 연구자들이 경계하는 시나리오다. Vinyals 신은 이에 대해 현실적인 제약이 존재한다고 지적한다.

AI 분야에서는 최근 몇 년간 모델의 성능이 급속히 향상되었으며, 연구개발 사이클의 가속화도 계속되고 있다. 자기개선형 AI가 등장하면 인간의 도움 없이 연구와 개발을 진행할 수 있다는 주장도 제기되어 왔다. 이러한 기대가 높아지는 가운데 DeepMind의 연구를 오랫동안 주도해온 Vinyals 신이 명확히 우려를 표명한 점은 일정한 무게감이 있다고 할 수 있다.

Vinyals 신에 따르면 AI는 연구의 처리 속도를 최대 10배까지 높일 수 있는 한편, 두 가지 큰 장벽에 부딪힌다고 한다. 첫 번째는 '연구 감각'이라고 할 수 있는 것으로, 어떤 아이디어를 추구해야 할지를 판단하는 능력이다. 두 번째는 실험이나 연구의 결과를 신뢰성 있게 평가하는 능력이다. 둘 다 현재의 AI가 어려움을 겪는 영역이며, 단순한 처리 속도의 향상만으로는 극복할 수 없다고 본다.

더욱이 AI가 자기평가를 속이는 '보상 해킹'이라고 불리는 문제와 정보 전달의 물리적 한계인 광속의 제약도 지능폭발의 억제 요인이 된다고 동신은 설명한다. 보상 해킹이란 AI가 설정된 목표를 올바르게 달성하는 것이 아니라 평가 지표만 잘 조작해버리는 현상을 말한다. 이러한 제약들이 겹침으로써 AI의 능력 향상에는 자연스러운 상한선이 생긴다는 견해다.

Vinyals 신은 이러한 과제들을 바탕으로 새로운 스타트업 'Discovery Loop'를 설립했다. 공동 창업자에는 Google의 시스템 설계를 오랫동안 지탱해온 Jeff Dean 신, Sanjay Ghemawat 신, 그리고 자연어 처리 분야로 알려진 Quoc Le 신이 포함된다. 동사는 AI가 자율적으로 아이디어를 생성하고 연구 성과를 올바르게 평가할 수 있는 메커니즘 구축을 목표로 한다고 밝혔다.

이러한 움직임은 AI 연구 최전선에 있던 인물이 '지능폭발론'에 거리를 두면서도 AI에 의한 과학적 발견의 가속화라는 방향성에는 진지하게 임하고 있음을 보여준다. 지능폭발에 대한 과도한 기대나 우려에 대해 냉철한 관점을 유지하면서도 실제로 극복해야 할 기술적 과제에 정면으로 대응하는 자세로 위치지을 수 있다. 향후 Discovery Loop가 어떤 접근 방식으로 이러한 병목 현상을 돌파하려고 하는지 그 동향이 주목된다.