인공지능 주권을 둘러싼 경쟁이 기업·정부에서 가속화

인공지능의 이용을 둘러싼 논의가 성능과 가격의 비교에서 '누가 인공지능을 제어하는가'라는 문제로 옮겨가고 있다. 그 상징적인 움직임으로서, 인공지능 스타트업 Anthropic이 자사 모델의 이용에 일정한 제한을 설하고 있다는 점이 주목을 받고 있다. 이러한 제한은 단순한 이용 약관의 문제에 그치지 않고, 인공지능에 대한 접근권과 관리 권한을 둘러싼 더 큰 구조적 변화를 드러내고 있다.

배경에 있는 것은 '인공지능 주권(AI Sovereignty)'이라 불리는 개념의 대두이다. 이는 인공지능 시스템의 운영·데이터·판단 프로세스를 외부의 기업이나 국가에 의존하지 않고 자국이나 자조직의 관리 하에 두는 것을 의미한다. 인터넷과 클라우드 서비스가 보급된 시대에 데이터의 소재지나 처리를 담당하는 기업의 국적이 문제가 되어 온 것처럼, 이제 인공지능 모델 자체의 '제어권'이 안전보장과 경쟁력의 관점에서 문제가 되고 있다.

이러한 움직임을 밀어붙이는 것은 각국 정부와 대기업의 쌍방이다. 정부 측은 국가의 중요 인프라나 행정 서비스에 인공지능을 활용할 때, 외국 기업이 제공하는 모델에 대한 의존을 우려하게 되었다. 한편 대기업도 업무 데이터를 인공지능 벤더에 전달하는 위험성을 재평가하고, 자사 내에서 모델을 보유·운영하는 '프라이빗 배포'에 대한 관심을 높이고 있다. Anthropic의 모델 제한은 이러한 긴장 관계가 표면화한 한 가지 사례로 위치지을 수 있다.

Anthropic의 움직임이 특히 주목되는 것은 동사가 안전성을 중시하는 인공지능 개발의 기수로 알려져 있기 때문이다. 동사는 인공지능 위험의 경감을 기업의 중심적인 사명으로 삼고 있으며, 모델의 이용 제한도 그 방침의 연장선상에 있다. 다만, 제한의 구체적인 내용이나 대상 범위는 기업마다·용도마다 다르며, 일률적으로 언급하기는 어렵다.

이 추세는 인공지능 산업 전체의 비즈니스 모델에도 영향을 미칠 가능성이 있다. 지금까지 많은 인공지능 기업은 API를 통해 폭넓게 모델을 제공하고, 이용량에 따른 요금 청구로 수익을 얻어 왔다. 하지만 고객이 '제어권'을 요구하게 되면, 모델 자체를 라이선스 판매하거나 온프레미스(자사 설비 내) 운영을 가능하게 하는 비즈니스 형태가 확산될 것으로 볼 수 있다. 그 경우 인공지능 벤더에게는 새로운 수익 기회인 한편, 기술 지원과 책임의 범위를 정리할 필요도 생긴다.

인공지능 주권이라는 개념은 기술적인 문제인 동시에 정치·경제·안전보장이 교차하는 문제이기도 하다. 어느 나라가 어떤 기술을 사용할 수 있는지, 기업의 데이터가 누구의 손에 넘어가는지 하는 문제는 향후 국제적 인공지능 거버넌스 논의와도 직결된다. Anthropic의 사례는 그 논의의 입구에 불과하다고 볼 수 있다. 향후는 모델에 대한 접근 조건과 지역별 규제와의 합치성이 인공지능 기업의 경쟁력을 좌우하는 요인 중 하나가 될 것이다.