알리바바, 로컬 실행 고성능 AI 모델 'Qwen3.8-27B' 공개

중국의 알리바바가 로컬 환경에서 실행되는 AI 모델 'Qwen3.8-27B'을 공개했다. 모델의 가중치 데이터는 Hugging Face에서 배포되고 있으며, 기업 사용에 적합한 오픈소스 라이센스(Apache 2.0) 하에서 누구나 획득할 수 있다. 이미지와 동영상 이해, 긴 문맥 처리, 코드 생성, 그리고 여러 도구를 조합하여 자율적으로 작업을 수행하는 '에이전트형' 워크플로우 등 폭넓은 용도에 대응하고 있다.

지금까지 고성능 AI라고 하면 OpenAI나 Anthropic 같은 기업이 클라우드상에서 제공하는 서비스를 통해서만 이용할 수 있는 것이 대부분이었다. 자신의 컴퓨터에서 모델을 실행하는 '로컬 실행'은 편의성 측면에서는 우수하지만, 클라우드의 최첨단 모델과 비교하면 성능 차이가 크다고 여겨져 왔다. Qwen3.8-27B는 그 전제를 흔들어 놓는 존재로서 개발자 커뮤니티를 중심으로 주목을 받았다.

모델을 실행하는 데 필요한 메모리 양은 설정에 따라 크게 변한다. 최고 정밀도 설정(16비트)에서는 약 56GB의 GPU 메모리가 필요하지만, '4비트 양자화'라고 불리는 데이터 압축 기법을 사용하면 모델의 크기를 약 17GB까지 줄일 수 있다. 이는 고성능 게이밍 PC나 노트북 컴퓨터에서도 실행할 수 있는 수준에 해당한다. 컨텍스트 윈도우(한 번에 처리할 수 있는 텍스트 양의 상한)는 262,144 토큰으로 넓게 설정되어 있다.

알리바바 자체가 공개한 벤치마크 결과에서는 소프트웨어 개발 작업을 평가하는 'SWE-bench Pro'에서 61.7점, 코딩 능력을 측정하는 'LiveCodeBench v6'에서 90.3점을 기록했다. 동사의 비교표에서는 SWE-bench Pro와 LiveCodeBench에서 Anthropic의 Claude Opus 4.6 Max의 게재 점수를 상회하고 있다. 다만 이러한 평가의 일부는 알리바바가 독자적으로 실시한 것이며, 비교 조건이 완전히 통일되어 있지 않기 때문에 단순한 우열 판단의 기준이 되기는 어렵다.

더욱 중립적인 평가로 주목되는 것이 제3자 기관 'Artificial Analysis'가 월요일에 발표한 결과다. 동 기관은 코딩·과학·추론 등 9가지 평가를 종합한 'Intelligence Index'에서 Qwen3.8-27B에 52점을 부여했다. 이 점수는 OpenAI가 클라우드에서만 제공하는 모델 'GPT-5.6 Luna'의 최대 추론 설정에서의 현재 점수와 동일한 수준에 해당한다. 또한 에이전트형 작업을 측정하는 'Agentic Index'에서 51점을 획득하여 Anthropic이 3개월 이내에 출시한 Claude Opus 4.8의 최대 추론 설정 점수를 상회했다. 오픈소스 코딩 에이전트 'Cline'은 X(구 Twitter)상에서 '로컬 모델이 처음으로 프론티어 모델 수준의 성능에 도달했다'고 언급했다.

이러한 결과가 보여주는 것은 클라우드 전용 최첨단 모델과 로컬 모델 간의 성능 격차가 착실히 좁혀지고 있다는 추세다. 점수가 가깝다고 해서 모든 용도에서 완전히 동등하다고 할 수는 없지만, 특정 작업에서는 실용상의 차이가 작아지고 있다고 볼 수 있다. 자신의 PC에서 모델을 실행하는 선택지가 현실성을 띠게 되는 것은 개인정보 보호, 비용, 인터넷 연결 불필요 등의 관점에서 개발자와 기업의 선택지를 넓히는 것으로 위치 지을 수 있다.

현 시점에서의 로컬 AI 활용에는 여전히 일정한 진입 장벽이 있다. 약 17GB의 모델 데이터를 다룰 수 있는 고성능 PC가 필요하며, 최고 정밀도로 실행하려면 업무용에 가까운 GPU가 요구된다. 그럼에도 불구하고 불과 몇 년 전에는 생각하기 어려웠던 성능 수준이 소비자 기기로 손이 닿는 범위에 들어오고 있다는 점은 AI 이용의 저변 확대 움직임으로서 앞으로도 주시할 가치가 있다.