Z.ai, 사이버 능력을 강화한 「GLM-5.3」공개

중국의 AI 스타트업 Z.ai가 최신 모델 「GLM-5.3」을 공개했다. 장시간에 걸친 코딩 작업의 성능이 대폭 향상되었을 뿐만 아니라, 사이버보안 분야에서의 능력도 종전보다 두드러지게 높아지고 있다. 동사의 개발자 애드보케이트인 Lou 씨는 GLM-5.3이 이미 AI 코딩 도구 「Cursor」에 「잠재적으로 심각한 취약점」을 발견했다고 X에 투고했으며, 그 내용이 업계의 관심을 모으고 있다.

Z.ai는 GLM(제너럴·랭귀지·모델) 시리즈로 알려져 있으며, 많은 모델을 오픈소스로 공개해온 실적을 가지고 있다. 이번 GLM-5.3은 이전 버전 「GLM-5.2」와 동일한 기반 모델(파라미터 수는 7430억 규모)을 그대로 사용하고 있다는 점이 특징이다. 새로운 기본 모델의 학습(프리트레이닝)을 다시 실시하지 않고, 학습 후 조정 단계(포스트트레이닝)만을 확대함으로써 성능 향상을 실현했다. 「GLM-5.3에서 실시한 것은 포스트트레이닝의 스케일업만이다」라고 동사는 기술 발표에서 명기하고 있다.

성능 향상의 내용을 보면, 코딩 관련 벤치마크(성능 평가 지표)에서 큰 개선이 확인되고 있다. Terminal-Bench 3.0에서는 4.6에서 28.3으로, DeepSWE v1.1에서는 46.2에서 66.9로, AutomationBench에서는 26.2에서 48.2로 각각 크게 수치가 상승했다. 학습 환경도 단독의 프로그래밍 문제를 푸는 스타일에서 코드베이스·문서·실험 결과 등을 제공받아 복수일분의 작업을 처리하는 등 실제 개발 현장에 가까운 복잡한 태스크로 확대되었다.

한편 우려 사항으로 부상한 것이 사이버보안 능력의 급등이다. Z.ai 자신이 인정하고 있는 것처럼, 포스트트레이닝의 스케일업에 따라 보안상의 능력이 예상 이상의 속도로 향상되었다. 특히 취약점의 특정에 그치지 않고, 실제로 악용 가능한 공격 절차(익스플로잇 체인)를 구축하는 능력까지 높아졌다고 한다. 이러한 상황을 받아 로이터는 동사가 「신뢰 액세스」라고 불리는 관리 기법을 도입하여 고도의 기능 일부에 제한을 두고 있다고 보도했다.

현시점에서 GLM-5.3을 이용할 수 있는 것은 동사의 「GLM Coding Plan」과 「ZCode」 코딩 환경뿐이다. API 액세스나 오픈웨이트(모델의 가중치 데이터 공개)는 「안전성 평가와 보안 강화가 완료된 후」에 제공한다고 하며, 공개는 향후 약 2주 후를 계획하고 있다. 오픈소스를 기본으로 해온 Z.ai가 이번에만 단계적 공개로 나선 배경에는 이러한 안전면에서의 신중한 자세가 있다.

이번 GLM-5.3은 AI 개발의 방향성이라는 점에서도 시사가 풍부하다. 비싼 프리트레이닝을 반복하지 않아도 포스트트레이닝의 공안 여하에 따라 프론티어 모델의 능력을 어디까지 이끌어낼 수 있는지를 실증한 사례로 위치지어진다. 동시에 능력의 향상이 보안 리스크를 예상 외의 속도로 높일 수 있다는 현실도 부각시켰다. AI의 능력 향상과 안전 관리를 어떻게 양립시킬 것인가는 개발자뿐만 아니라 이용자나 규제 당국에게도 피할 수 없는 물음이 되어가고 있다.