기업의 AI 에이전트, 5곳 중 1곳이 비용 제어 불가능

기업이 AI 에이전트를 본격적으로 활용하기 시작하면서 그 「제어」에 관한 과제가 드러나고 있다. VB Pulse가 107개 기업을 대상으로 실시한 조사에 따르면, AI 에이전트의 토큰 사용량(AI가 처리하는 데이터량에 따라 발생하는 비용)을 실시간으로 파악·제어하지 못하는 기업이 상당수에 달하는 것으로 나타났다. 특히 에이전트가 예산을 초과해서 계속 동작하는 상황을 즉시 멈출 수 없는 기업은 5곳 중 1곳의 비율에 이르고 있으며, 비용 관리 체계가 실무에 따라가지 못하는 실태가 드러난다.

이 조사는 AI 구축 현장에 종사하는 소프트웨어 엔지니어, 머신러닝 엔지니어, 프로덕트 매니저, 데이터·AI·분석 부문의 VP나 디렉터 등 실무 담당자로부터 수집한 것이다. AI 에이전트란 인간의 지시를 받아 작업을 자율적으로 실행하는 AI 시스템을 말한다. 이러한 에이전트의 활용이 확대될수록, 얼마나 많은 비용이 발생하고 있는지를 파악하는 「가시성」의 확보가 기업에게 절실한 과제가 된다.

동 조사에서 눈에 띄는 것은 기업이 오케스트레이션(여러 AI 에이전트와 모델을 묶어서 관리하는 체계)에서 특정 벤더에 의존하지 않으려는 자세를 강화하고 있다는 점이다. 조사 대상 기업의 85%가 2개 이상의 오케스트레이션 도구를 병행 사용하고 있으며, 3개를 사용하는 기업은 64%에 달한다. 1개만으로 정하는 기업은 겨우 15%에 불과했다. 중앙값으로 보면, 1개사당 3개의 플랫폼을 동시에 운영하고 있는 셈이다.

구체적인 이용 현황을 보면, Microsoft의 AI Foundry/Copilot Studio가 70%의 기업 스택에 포함되어 있으며, 현시점의 주요 도구로 1위를 차지하고 있다. OpenAI의 Agents SDK가 68%, Anthropic의 Claude Platform이 47%로 뒤를 잇는다. 이 밖에 Google의 엔터프라이즈용 에이전트 플랫폼, LangChain/LangGraph, Salesforce Agentforce, Amazon Bedrock, LlamaIndex 등도 활용되고 있다. 더욱이 22%의 기업이 자체 사내 오케스트레이션 기반을 구축·운영하고 있다.

향후 방향성에 대해서도 다양화를 전제로 한 구성으로의 이행이 진행될 것으로 예상된다. 응답자의 53%가 2026년 말까지 주요 제어 기반이 하이브리드형(여러 체계를 조합한 구성)이 될 것으로 예측하고 있다. 또한 3분의 2 이상의 기업이 1년 이내에 플랫폼을 변경할 계획을 가지고 있으며, 다음 검토 대상 도구로는 Anthropic의 Claude Agent SDK가 43%로 1위에 올랐고, 그 다음 Google의 엔터프라이즈 에이전트 플랫폼이 약 33%, 자체 개발이 31%, OpenAI의 옵션이 25%의 순서로 나타났다.

이러한 움직임의 배경에는 특정 벤더에 대한 과도한 의존(소위 벤더 락인)을 피하려는 의도뿐만 아니라, 보안과 접근 권한 관리에 대한 불안감도 깊숙이 있다. 조사에서는 기존 벤더가 제공하는 보안과 권한 관리 체계를 충분히 신뢰하지 못해 자사에서 제어 체계를 갖고 싶다는 의견이 많이 들렸다. 클라우드의 초기 발전기에 일부 기업이 특정 프로바이더에 지나치게 의존하여 신축성을 잃었던 경험이 지금의 분산 전략에 영향을 주고 있다는 견해도 있을 수 있다.

AI 에이전트는 아직 발전 과정 중인 기술이며, 어느 플랫폼이 표준이 될지는 정해지지 않았다. 기업이 여러 도구를 사용하는 현재의 상황은 그러한 불확실성에 대한 합리적 대응으로 자리매김된다. 한편 비용 가시성의 문제는 에이전트의 자율성이 높아질수록 심각해진다. 앞으로는 제어와 비용 관리 기능을 얼마나 실용적으로 제공할 수 있는가가 플랫폼 선정의 중요한 축이 될 것으로 볼 수 있다.