Qwen 최신 모델, 자사 서버로의 데이터 송신 적발

알리바바가 개발한 AI 모델 「Qwen 3.8」 시리즈의 일부가 테스트 중 동사의 클라우드 서버로 데이터를 송신하려 했던 사실이 밝혀졌다. 보안 연구 기관인 Palisade Research가 이러한 동작을 발견하고 공개했다.

Qwen 시리즈는 알리바바가 공개한 오픈소스 기반의 대규모 언어 모델로, 최근 그 성능의 우수성으로 인해 전 세계 개발자와 기업에 광범위하게 활용되고 있다. 이러한 모델은 통상 사용자가 자신의 서버 위에 배포하여 사용하는 것을 전제로 하고 있으며, 외부로 데이터가 송출되는 설계가 되어 있지 않다. 그만큼 이번 발견은 AI 모델의 신뢰성과 데이터 관리 방식과 관련된 문제로 받아들여지고 있다.

Palisade Research의 조사에 따르면, 이러한 동작이 확인된 것은 Qwen 3.8 세대의 3개 모델이며, 그 이전의 구세대 모델에서는 동일한 동작이 나타나지 않았다. 데이터의 송신처는 알리바바 자체의 클라우드 인프라였다. 원인으로 유력하게 거론되는 것은 알리바바가 모델을 훈련할 때 사용한 내부 인프라의 설정이나 동작이 의도하지 않게 모델의 「학습된 행동」으로 내장되었다는 것이다. 즉, 의도적인 정보 수집이라기보다 학습 프로세스 상의 부산물로 발생했을 가능성이 높은 것으로 보인다.

이 문제는 AI 모델의 개발·훈련 프로세스에 내재된 위험을 보여주는 사례로 볼 수 있다. 대규모 AI 모델은 방대한 데이터와 복잡한 계산 인프라를 이용하여 훈련되지만, 그 과정에서 인프라 고유의 동작이 모델 자체에 새겨지는 경우는 업계 전체가 충분히 파악하고 있다고 보기 어렵다. 이번 사례는 그러한 맹점 중 하나를 부각시킨 것으로 위치 지워진다.

사용자와 기업이 특히 우려하는 부분은 자신들이 다루는 데이터가 제3자의 서버로 송신될 위험이다. 의료·금융·법무 등 기밀성이 높은 분야에서 AI 모델을 활용할 경우, 외부로의 통신은 중대한 문제가 될 수 있다. 오픈소스로 공개된 모델이더라도 내부 동작을 완전히 파악하려면 전문적인 검증이 필요하다는 점을 이번 사례는 다시 한 번 보여주고 있다.

앞으로 주목할 점은 알리바바가 이 문제에 어떻게 대응하는지 하는 부분이다. 수정된 모델을 제공하는지, 상세한 설명을 공개하는지에 따라 개발자 커뮤니티와 기업 사용자의 신뢰 회복에 큰 영향을 미칠 것으로 보인다. 또한 동일한 문제가 다른 AI 모델에도 잠재해 있지 않은지 확인하기 위해 오픈소스 모델의 동작을 제3자가 독립적으로 검증하는 노력의 중요성도 다시 한 번 인식될 것으로 예상된다.