Writer, AI 에이전트의 비용을 52% 절감하는 모델 공개

엔터프라이즈용 AI 에이전트 플랫폼을 제공하는 Writer가 새로운 주력 모델 「Palmyra X6」을 발표했다. 동시에 에이전트의 동작을 통합하는 「오케스트레이션 기반」의 혁신과 IT 관리자가 토큰 소비량을 관리할 수 있는 거버넌스 도구도 공개했다. Writer의 고객으로는 Accenture, Uber, Vanguard 등 대형 기업들이 포함되어 있다.

AI 에이전트란 사용자의 하나의 요청에 대해 계획·정보 수집·도구 호출·검증·재시도 등의 여러 처리를 자동으로 반복하는 시스템이다. 챗봇이 하나의 질문에 하나의 답변을 반환하는 것과 달리, 에이전트는 내부에서 여러 번 루프를 회전하므로 청구 단위가 되는 토큰의 소비량이 증가하기 쉽다. 사용자에게는 하나의 답변으로 전달되지만, 청구액에는 이 모든 처리가 반영된다. 이러한 구조가 엔터프라이즈 기업의 AI 예산을 압박하는 주요 요인이 되고 있다.

Writer에 따르면 Palmyra X6과 새로운 에이전트 기반을 결합하면 비용은 평균 52% 절감, 처리 속도는 48% 향상, 출력 품질은 10% 개선된다고 한다. 회사의 CTO인 Waseem AlShikh 는 "기업들은 토큰 소비 확대를 원하고 있다. 이는 AI의 활용이 확대되고 있다는 신호이지만, 동시에 비용은 억제해야 한다"고 말했다. 또한 제품 관리 담당자인 Matan-Paul Shetrit는 비용 문제가 모델의 능력 이상으로 기업의 AI 도입 확대를 막는 가장 큰 장벽이 되고 있다고 지적했다.

Palmyra X6은 처음부터 학습시킨 새로운 모델이 아니라 베이징을 기반으로 하는 Z.ai(구 Zhipu AI)가 공개한 오픈웨이트 혼합 전문가형 모델 「GLM-5.2」를 토대로 Writer가 자체적으로 추가 학습(포스트 트레이닝)을 시행한 것이다. Writer는 이 사실을 기술 보고서에서 공개하고 있다. AI 리서치 책임자인 Dan Bikel은 "어디까지나 Palmyra의 모델이며, GLM-5.2의 수치 매개변수를 출발점으로 사용하고 그 이후 자체적으로 학습을 거듭했다"고 설명한다. 또한 Shetrit는 "원래의 개발자와는 일절 관계가 없으며, 모든 것이 미국 국내의 인프라 위에서 동작하고 있다"고 강조했다.

중국발 오픈소스 모델을 미국 기업이 상용 AI의 토대로 사용하는 것에 대해 업계 내에서 의견이 분분하다. Writer가 이러한 선택을 투명성을 가지고 공개한 것은 신뢰성의 관점에서 일정한 의미를 가진다. 한편 엔터프라이즈 고객들이 이를 어떻게 받아들일지는 향후 동향을 지켜봐야 한다.

토큰 소비의 급증은 업계 전체의 과제이기도 하다. Goldman Sachs의 분석에 따르면 2026년부터 2030년에 걸쳐 토큰 소비량은 24배 증가하여 월간 1200경 토큰에 도달할 것으로 예측되고 있다. 이 증가의 주요 원인은 사용자 수의 증가가 아니라 상시 가동하는 기업용 에이전트의 보급이라고 한다. 동 분석은 더 나아가 1토큰당 단가가 내려가도 에이전트가 더 많은 토큰을 사용하면 총 비용은 상승할 가능성이 있다고 지적하고 있으며, 단순한 단가 경쟁만으로는 문제 해결이 되지 않음을 시사하고 있다.

Writer의 이번 발표는 모델의 성능 향상뿐만 아니라 비용 관리와 거버넌스를 한 세트로 제공하는 점이 특징이다. 엔터프라이즈 AI의 경쟁 축이 "무엇을 할 수 있는가"에서 "얼마나 드는가"로 이동하고 있는 상황을 반영하고 있으며, 비용 효율성과 거버넌스의 정비가 도입 판단의 중요한 요소로 자리잡고 있다는 해석이 가능하다.