중국 AI의 정치 편향, 미세조정으로 제거 가능한 것으로 밝혀져

AI 모델에 내장된 정치적 편향이 추가 학습을 통해 거의 완전히 제거될 수 있음이 입증되었다. 미국의 AI 연구 그룹 'Nous Research'가 중국 알리바바의 대규모 언어 모델 'Qwen3-27B'를 재학습시켜 'Arete-27B'로 공개했다. 이 과정에서 모델이 보이는 친중국적인 선전적 답변의 비율이 22%에서 1% 미만으로까지 저하되었다고 보고했다.

배경으로는 중국 기업이 개발하는 AI 모델에 자국 정부의 견해에 부합하는 답변을 반환하는 경향이 있다는 점이 이전부터 지적되어 왔다. 이러한 모델들은 성능 면에서는 국제적으로 경쟁력을 가지고 있지만, 정치적으로 민감한 주제에서는 특정 입장에 편향된 답변을 출력한다고 알려져 있으며, 기업이나 연구 기관이 그대로 업무에 활용하는 데에 대한 우려가 생겨났다. Qwen3-27B도 그러한 맥락에서 주목을 받아온 모델 중 하나였다.

Nous Research가 채택한 기법은 '감독 학습 미세조정(SFT)'이라고 불리는 추가 학습의 한 형태로, 5300만 토큰(AI가 처리하는 텍스트의 단위) 분량의 데이터를 사용하여 재학습을 수행했다. 그 결과 정치적 편향과 관련된 답변 경향은 크게 개선된 한편, 일반적인 능력을 측정하는 테스트에서는 모델의 성능이 거의 손상되지 않았다고 한다. 즉, 사용성을 떨어뜨리지 않으면서 편향만을 분리해낼 수 있었다는 뜻이다.

Nous Research는 이 결과를 바탕으로 정치적 편향이 모델의 학습 과정의 '후반에, 얇게' 얹혀진다고 표현했다. 이는 즉, 편향이 모델의 근간에 깊게 내장되어 있지 않고 표층적인 부분에 사후 부착되어 있을 가능성이 높음을 시사한다. 구조적으로 얕은 위치에 존재하기 때문에, 비교적 소량의 데이터에 의한 추가 학습으로도 제거할 수 있었다는 해석이 가능하다.

이 지식이 갖는 의미는 AI의 안전성과 활용 가능성이라는 관점에서 크다고 위치 지어진다. 성능이 높더라도 정치적 편향에 대한 우려로 채택을 꺼렸던 조직들에 대해, 적절한 재학습을 실시함으로써 그 위험을 크게 감소시킬 수 있는 가능성이 보여졌기 때문이다. 한편, 어느 정도의 재학습으로 어디까지 편향을 제거할 수 있는지는 모델과 학습 데이터의 설계에 따라 다를 것으로 생각되며, 이번 결과가 모든 경우에 적용되는 것은 아니라는 점에 주의가 필요하다.

또한 AI 모델의 '편향의 구조'에 관한 이해를 심화한다는 점에서도, 이번 연구는 일정한 기여를 하고 있다고 할 수 있다. 선전적 콘텐츠가 모델의 심부가 아닌 표층에 얹혀 있다는 가설이 실증적으로 뒷받침됨으로써, 향후에는 '어느 계층에 편향이 내장되어 있는지'를 분석·특정하는 연구로도 확대될 가능성이 있다. AI의 투명성과 설명 가능성을 둘러싼 논의에 새로운 관점을 더하는 움직임으로 주목할 수 있다.