강화학습의 권위자 서튼, 새로운 스타트업 Oak Lab 설립

강화학습(AI 자신이 시행착오를 반복하면서 학습하는 기법)의 이론적 기초를 마련한 연구자 리처드 서튼이 캐나다 토론토에서 새로운 스타트업 「Oak Lab」을 설립했다. 서튼은 2024년 튜링상(컴퓨터 과학 분야에서 최고 권위로 여겨지는 상)을 수상했으며, AI 연구자 중에서도 특히 영향력이 큰 인물로 알려져 있다.

서튼이 Oak Lab에서 추진하려는 것은 환경으로부터 지속적으로 자율학습하는 AI에이전트 개발이다. 그는 현재 주류가 되고 있는 심층학습 기법을 「약하고 비효율적이다」라고 표현하고 있으며, 현재의 AI 기술에는 근본적인 한계가 있다는 입장을 취하고 있다. 이러한 비판적인 견해는 AI 연구의 최전선에 있는 인물로부터의 발언으로서 주목할 가치가 있다.

현재 AI 개발의 주류는 대량의 데이터를 사전에 학습시킨 대규모 언어 모델(LLM) 활용이다. ChatGPT를 비롯한 도구들이 이 기법으로 만들어졌으며, 한 번 학습이 완료되면 기본적으로 추가 학습을 수행하지 않는 「정적」인 성질을 가진다. 서튼이 목표로 하는 「환경으로부터 지속적으로 학습하는 AI」는 이 정적인 학습 모델과는 대조적인 접근 방식이라고 할 수 있다.

강화학습은 원래 바둑이나 장기 같은 게임에서 AI가 인간을 초월한 능력을 보여줄 때 주목을 받은 기법이다. 에이전트가 행동을 취하고, 그 결과에 따른 보상을 받으면서 스스로 최적의 행동을 학습해 나가는 구조로, 서튼은 그 이론적 토대를 오랫동안 구축해 왔다. Oak Lab은 이 강화학습의 사고방식을 더 넓은 AI에이전트 개발에 적용하려는 시도로 위치지어진다.

스타트업의 규모, 자금 조달 상황, 구체적인 제품·서비스의 내용에 대해서는 현 시점에서 상세가 명확히 드러나지 않았다. 다만 AI 연구의 권위자가 「현재의 심층학습은 불충분하다」고 명언한 후 독립적인 조직을 설립한 것은 연구의 방향성에 관한 하나의 문제 제기로 받아들일 수 있다.

AI에이전트 분야는 현재 많은 기업과 연구 기관이 주력하는 영역이다. 다만 「자율적으로 학습을 계속하는 AI」의 실현은 기술적으로 어렵고, 안전성과 제어 관점에서도 신중한 논의가 요구되는 단계에 있다. 서튼의 Oak Lab이 구체적으로 어떤 기술이나 방법론을 채택할 것인지는 향후 발표를 기다릴 필요가 있다.

튜링상 수상자가 스스로 「현재의 AI는 약하다」고 단언하고 새로운 회사를 설립하여 대안적인 길을 모색하는 움직임은 AI 산업 전체의 기술적 논의에 돌을 던지는 것으로 볼 수 있다. 현재의 대규모 모델 중심의 조류에 대해 자율학습형 에이전트라는 다른 접근 방식이 얼마나 발전할지, 연구와 산업 양쪽 면에서 주목이 집중될 것으로 보인다.