나델라 CEO, OpenAI 등의 '증류 금지' 공개 비판

마이크로소프트의 사티아 나델라 CEO가 OpenAI, Anthropic 등의 AI 연구소에 대해 공개적으로 문제를 제기했다. 이들 기업이 자사 모델에 대한 '증류'(어떤 모델의 출력을 사용해 다른 모델을 훈련시키는 기법)를 이용약관에서 금지하는 한편, 자사 모델의 학습에는 광범위하게 인터넷 공개 데이터를 활용하고 있는 구도를 '역정보 역설'이라 부르며 모순을 지적한 것이다.

여기서 말하는 '증류'란 대규모 AI 모델의 출력 결과를 교사 데이터로 사용해 더 작은 모델이나 다른 모델을 키우는 기술을 의미한다. OpenAI와 Anthropic은 모두 이용약관에서 이 기법을 금지하고 있으며, 자사 모델이 다른 기업에 '학습의 소재'로 사용되는 것을 방지하고 있다. 한편 이들 기업은 자사의 모델 개발에서 공정이용의 개념을 근거로 웹에 존재하는 다양한 공개 텍스트와 이미지를 대규모로 학습 데이터로 수집해왔다. 더욱이 나델라 씨는 고객과의 상호작용으로부터도 지속적으로 학습을 수행하고 있다는 점에도 언급했다.

나델라 씨의 주장의 핵심은 '기업은 자사의 학습 인프라를 스스로 통제할 수 있어야 한다'는 것이다. AI 연구소가 타인의 데이터는 자유롭게 활용하면서 자사 데이터의 이용은 엄격히 제한하는 비대칭적 태도에 대해, 고객 기업이 자신의 데이터와 학습 프로세스를 주체적으로 관리할 수 있는 환경이 필요하다고 호소한 형태다. 참고로 마이크로소프트 자신은 그러한 '자사 관리형 학습 인프라'를 클라우드 서비스로 제공하는 입장에 있다는 점은 함께 이해할 필요가 있다.

이 발언의 배경으로 AI 업계 전체에서 데이터 활용 규칙을 둘러싼 논의가 활발해지고 있다는 점이 지적된다. 대규모 언어 모델의 학습 데이터의 적법성과 저작권 침해를 둘러싼 소송이 각국에서 잇따르고 있으며, '누구의 데이터를, 어떤 조건에서 사용할 수 있는가'는 업계가 직면한 공통의 과제가 되었다. 그 문맥에서 대형 AI 연구소가 자사에 유리한 비대칭적 규칙 아래에서 사업을 전개하고 있다는 견해는 이미 일부 연구자와 경쟁사 사이에서도 공유되고 있다.

나델라 씨의 발언은 단순한 비판에 그치지 않으며, 비즈니스상의 문맥과도 떨어져 있지 않다. 마이크로소프트는 Azure를 비롯한 클라우드 플랫폼을 통해 기업이 자사 데이터를 사용해 AI 모델을 독자적으로 커스터마이징·훈련할 수 있는 환경을 제공하고 있다. '학습 인프라의 자사 관리'를 호소하는 것은 결과적으로 마이크로소프트의 서비스군을 제안하는 것이 될 수 있다는 구조는 발언 평가에 있어 고려해야 할 점이다.

AI 모델의 학습 데이터를 둘러싼 비대칭성의 문제는 앞으로의 업계 표준과 규칙 형성에 영향을 미칠 수 있는 논의라고 볼 수 있다. 대형 연구소가 설정하는 이용약관상 제한과 자신의 학습 관행의 정합성을 어떻게 설명할 것인가는 투명성과 신뢰성 관점에서도 계속 문제 삼아질 논점이 될 것으로 보인다. 기업이 AI를 자사 업무에 도입할 때 자사 데이터의 취급과 학습 프로세스의 통제를 어떻게 확보할 것인가 하는 시각은 앞으로 더욱 중요해질 것으로 위치지어진다.