AI 규제 강화, 오픈소스 개발자 압박 우려

현 시점에서 가장 고도의 능력을 보유한 AI 시스템인 프론티어 AI의 개발을 규제·감속시키려는 움직임이 각국에서 논의되는 가운데, 소규모 오픈소스 개발자가 제도적으로 불리한 입장에 몰릴 가능성이 지적되고 있다. 동시에 기업 측이 안전성과 거버넌스 책임을 종래보다 더욱 직접 담당해야 한다는 새로운 과제도 부각되고 있다.

이러한 논의의 배경에는 대규모 AI 모델의 급속한 능력 향상이 있다. 고성능 AI 모델이 속속 공개되는 가운데, 각국의 정부와 규제 당국은 그 위험을 관리하는 체계 구축을 서두르고 있다. 특히 초점이 맞춰지는 것은 '오픈웨이트 모델'이라 불리는 형식의 AI로, 이는 모델의 내부 파라미터(계산 가중치 데이터)를 공개하여 누구든 이용·변경할 수 있도록 한 것이다. 상용 API를 통해서만 제공되는 클로즈드 모델과는 달리, 오픈웨이트 모델은 광범위한 개발자가 저비용으로 활용할 수 있다는 점에서 AI 기술의 민주화를 뒷받침하는 존재로 자리매김해 왔다.

규제 논의가 본격화되면, 이러한 개방적 체계에 새로운 부담이 가해지는 구조가 드러난다. 대기업이라면 법무·컴플라이언스 체제를 정비하여 규제 요건에 대응할 수 있지만, 자금과 인력이 제한적인 소규모 개발자나 커뮤니티 주도 프로젝트에게는 동일 수준의 대응 비용을 부담하기가 쉽지 않다. 이러한 비대칭성이 오픈소스 AI 개발 생태계 전체를 축소시킬 수 있다는 우려가 있다.

기업 측에도 영향이 미친다. 지금까지 모델 제공자가 담당해 온 안전 평가 및 거버넌스(관리·통제 체계)의 일부가 오픈웨이트 모델을 도입·운영하는 기업 측으로 이행될 가능성이 있다. 모델을 '사용하는 측'이 안전성 확보에 책임을 진다는 생각은 종래의 소프트웨어 조달 관행과 크게 달라, 많은 기업에게 미지의 대응 영역이 된다.

이 문제가 지금 중요한 이유는 AI 규제의 설계 여하에 따라 누가 AI 개발에 참여할 수 있는가라는 '참여 자격' 자체가 바뀔 수 있기 때문이다. 규제 체계가 대기업에 유리한 형태로 굳어지면 기술의 다양성과 경쟁이 상실되어, 결과적으로 AI의 진화 방향이 일부 거대 플레이어에 의해 결정되기 쉬워진다는 견해가 가능하다. 오픈소스 커뮤니티는 지금까지 클로즈드 개발에 대한 대항축으로 기능해 왔기에, 그 축소는 기술의 투명성에도 영향을 미칠 수 있다.

향후 주목할 점은 규제 설계가 오픈웨이트 모델을 어떻게 다룰 것인가 하는 부분이다. 개발자 규모나 공개 형식에 따른 단계적 규제 적용이나 소규모 개발자 지원책이 논의에 포함되는지 여부가 AI 생태계의 다양성을 좌우하는 분기점이 된다고 위치지어진다. 기업에게는 오픈웨이트 모델을 자사에서 도입·운영할 때의 거버넌스 체제를 종래보다 주도적으로 정비해야 할 필요성이 높아지고 있다고 할 수 있다.