알리바바, AI 에이전트의 토큰 소비를 99% 감소시키는 기술 개발

중국 테크 대기업 알리바바의 연구팀이 AI 에이전트의 작업 효율을 대폭 개선하는 프레임워크 'SkillWeaver'를 개발했다. 이 프레임워크는 복잡한 작업을 단계적으로 분해하여 필요한 도구만 선택하는 방식을 채택하고 있으며, 도구 라이브러리 전체를 AI에 일괄 읽힘하는 기존 방법과 비교하면 토큰 소비량(AI가 처리하는 문자·단어의 단위)을 99% 이상 감소시키면서도 정확도를 향상시켰다고 연구팀은 보고하고 있다.

이 연구가 나오게 된 배경에는 기업용 AI 시스템의 확대에 따른 '도구 폭발'이라는 과제가 있다. 근래 AI 에이전트는 수백 종류의 도구나 기능(스킬)을 보유한 대규모 시스템과 연동하여 동작하는 경우가 늘어나고 있으며, '어느 단계에서 어느 도구를 사용할지'를 판단하는 것이 극히 어려워지고 있다. 현재 많은 프레임워크는 라이브러리 전체를 모델에 한 번에 전달하여 선택하게 하는 '일괄 선택' 방식을 취하고 있지만, 이렇게 하면 컨텍스트(처리 가능한 정보량)의 상한을 순식간에 초과하게 되어 비용도 증가한다. SkillWeaver는 이 문제를 정면으로 해결하려는 시도이다.

SkillWeaver의 핵심은 주어진 작업 전체를 '실행 그래프'라는 구조로 변환하여 각 단계에 최적의 스킬을 할당하는 접근 방식에 있다. 더욱이 'Skill-Aware Decomposition(SAD)'이라는 기법과 결합함으로써 에이전트가 후보 도구를 반복적으로 획득·검증하면서 좁혀나가는 피드백 루프를 실현하고 있다. 예를 들어 '데이터셋을 다운로드하고, 가공하고, 그래프 리포트를 작성하라'는 지시에 대해서는 API 클라이언트·데이터 처리·시각화 도구를 각각 별도의 공정에 할당하여 순서대로 실행하는 계획을 자동으로 구성한다.

실험에서는 이 프레임워크를 활용하면서 도구 전체를 무차별적으로 읽힌 경우와 비교하여 토큰 소비가 99% 이상 감소되고 또한 정확도도 향상되는 결과를 얻었다. 연구팀은 또한 정확도의 병목이 모델의 성능이 아닌 '작업 분해의 세밀함'에 있다고 지적하고 있다. 즉, 작업을 얼마나 적절하게 작은 단위로 나눌 수 있는가가 올바른 도구 선택의 열쇠를 쥐고 있다는 통찰이다.

SkillWeaver는 MCP(Model Context Protocol)와 같은 여러 도구의 통합 기반과도 높은 친화성을 갖고 있으며, 데이터 획득·변환·리포트 생성이라는 일련의 비즈니스 오퍼레이션을 자율적으로 처리하는 장면으로의 응용이 상정되고 있다. MCP는 AI 에이전트가 외부 도구나 서비스를 표준적인 방식으로 호출하기 위한 메커니즘으로, 최근 빠르게 확산되고 있다.

AI 에이전트를 실무 수준으로 끌어올리는 데 있어 도구 선택의 효율화는 비용 측면과 성능 측면 모두에서 중요한 과제이다. 토큰 소비의 감소는 직접적으로 운영 비용 절감으로 이어지기 때문에, 대규모 에이전트 시스템을 다루는 기업에게는 간과할 수 없는 진전이라고 할 수 있다. SkillWeaver와 같이 '필요한 것만 필요할 때마다 꺼내는' 설계 사상은 향후 에이전트 개발의 방향성에 영향을 미칠 가능성이 있다. 연구의 실용화나 외부 공개 동향이 계속 주목 대상이 될 것이다.