알리바바, AI 에이전트의 토큰 소비를 99% 감소시키는 기술 개발

중국 테크 대형사 알리바바의 연구팀이 AI 에이전트의 작업 효율을 대폭 개선하는 프레임워크 'SkillWeaver'를 개발했다. 해당 프레임워크는 복잡한 작업을 단계적으로 분해하여 필요한 도구만 선택하는 메커니즘을 채택하고 있으며, 도구 라이브러리 전체를 AI에 읽혀주는 기존 방식과 비교하여 토큰 소비량(AI가 처리하는 문자·단어의 단위)을 99% 이상 감소시키면서 정확도도 향상시켰다고 연구팀은 보고하고 있다.

이 연구가 나온 배경에는 기업용 AI 시스템의 확대에 따른 '도구 폭발'이라는 과제가 있다. 근래 AI 에이전트는 수백 가지 도구나 기능(스킬)을 갖춘 대규모 시스템과 연계하여 작동하는 경우가 증가하고 있으며, '어느 단계에서 어느 도구를 사용할 것인가'의 판단이 매우 어려워지고 있다. 현재 대다수의 프레임워크는 라이브러리 전체를 모델에 한 번에 전달하여 선택하도록 하는 '일괄 선택' 방식을 채택하고 있지만, 이는 컨텍스트(처리 가능한 정보량)의 상한선을 곧바로 초과하게 되며 비용도 증가한다. SkillWeaver는 이 문제를 정면으로 해결하려는 시도다.

SkillWeaver의 핵심은 주어진 작업 전체를 '실행 그래프'라고 하는 구조로 변환하고 각 단계에 최적의 스킬을 할당하는 방식에 있다. 더욱이 'Skill-Aware Decomposition(SAD)'이라는 기법을 결합함으로써, 에이전트가 후보 도구를 반복적으로 획득·검증하면서 좁혀나가는 피드백 루프를 실현하고 있다. 예를 들어 '데이터셋을 다운로드하고 가공하여 그래프 보고서를 작성하라'는 지시에 대해서는 API 클라이언트·데이터 처리·가시화 도구를 각각 별도의 공정에 배분하고 순서대로 실행하는 계획을 자동으로 세운다.

실험에서는 이 프레임워크를 사용함으로써 도구 전체를 무차별적으로 읽혀주는 경우와 비교하여 토큰 소비가 99% 이상 감소되었으며, 동시에 정확도도 향상하는 결과를 얻었다. 연구팀은 또한 정확도의 병목이 되는 것은 모델의 성능이 아니라 '작업 분해의 세밀함'에 있다고 지적하고 있다. 즉, 작업을 얼마나 적절하게 작은 단위로 나눌 수 있는가가 올바른 도구 선택의 핵심이라는 통찰이다.

SkillWeaver는 MCP(Model Context Protocol) 같은 복수 도구의 통합 기반과도 친화성이 높으며, 데이터 획득·변환·보고서 생성 같은 일련의 비즈니스 오퍼레이션을 자율적으로 처리하는 상황에의 응용이 상정되고 있다. MCP는 AI 에이전트가 외부 도구나 서비스를 표준적인 방식으로 호출하기 위한 메커니즘이며, 근래 급속도로 보급되고 있다.

AI 에이전트를 실용 수준으로 끌어올리는 데 있어 도구 선택의 효율화는 비용 측면과 성능 측면 모두에서 중요한 과제다. 토큰 소비의 감소는 직접적으로 운영 비용 절감으로 이어지기 때문에, 대규모 에이전트 시스템을 다루는 기업에게는 무시할 수 없는 진전이라 할 수 있다. SkillWeaver처럼 '필요한 것만 그때그때 꺼내는' 설계 사상은 향후 에이전트 개발의 방향성에 영향을 미칠 가능성이 있다. 연구의 실용화 및 외부 공개의 향방이 계속해서 주목점이 될 것이다.