기업 AI의 '에이전트', 실제로는 챗봇 수준

기업이 AI 에이전트 도입을 급히 추진하는 한편, 실제로는 '에이전트'라고 부를 수 있는 수준에 도달하지 못한 사례가 대부분을 차지하고 있다는 사실이 VentureBeat가 2026년 6월에 실시한 조사에서 드러났다. 종업원 100명 이상의 기업 101개사를 대상으로 한 이번 조사는 기업이 어느 플랫폼에서 에이전트를 운영하고 있으며 무엇을 중시하고 있는지를 횡단적으로 분석한 것이다.

조사의 핵심에 있는 것은 '하고 싶은 것'과 '실제로 할 수 있는 것'의 격차다. AI 에이전트란 단순히 질문에 답하는 것뿐만 아니라 여러 단계를 자율적으로 수행할 수 있는 시스템을 의미한다. 그런데 응답한 기업의 71%가 자사에서 '에이전트'라고 부르는 시스템의 4분의 3 이상은 실제로는 단일 지시에만 응답하는 챗봇에 불과하다고 인정했다. 진정한 의미의 에이전트——여러 단계의 처리를 자율적으로 수행하는 워크플로우——가 전체의 절반을 초과하고 있는 기업은 겨우 10%에 불과하다.

플랫폼 선택에서는 Anthropic의 Claude가 40%의 기업에서 주요 기반이 되고 있으며, 2위인 Microsoft(18%)와 OpenAI(13%)를 크게 앞서고 있다. 선정 이유로 가장 많이 언급된 것은 '최첨단 베이스 모델과의 기본 친화성'(21%)이었으며, 성공의 지표로는 '작업 완료의 안정성'(32%)과 '다단계 워크플로우 관리'(28%)가 상위에 올랐다. 즉, 기업이 에이전트에 요구하는 것은 '확실히 작동하는 것'이며, 모델의 성능 자체가 선정의 중심축이 되고 있다는 것이다.

제어 메커니즘에 대해서는 2026년 말까지 51%의 기업이 '공급자 제공 기능과 외부 오케스트레이션 도구를 결합한 하이브리드형' 관리 기반을 도입할 것으로 예상된다. 한편, 관리를 공급자에게 전적으로 맡기는 '매니지드 서비스형'을 선택한 기업은 겨우 6%에 불과했다. 이 배경에는 벤더 락인——특정 기업에 지나치게 의존해 다른 기업으로의 전환이 어려워지는 위험——에 대한 경각심이 있으며, 35%의 기업이 이를 최대의 위험으로 언급했다.

투자처로서는 에이전트의 워크플로우 구축 도구가 34%로 1위이며, 보안 및 접근권한 관리가 25%로 뒤를 따른다. 한편, 비용 관리 측면에서는 심각한 과제가 드러났다. AI 에이전트는 처리할 때마다 '토큰'이라고 불리는 단위로 비용이 발생하는데, 에이전트가 폭주한 경우에 실시간으로 처리를 중단할 수단을 갖지 못한 기업이 27%에 달한다. 청구서가 도착한 후에야 비정상을 알아차리는 상황이 현재도 드물지 않다.

이번 조사가 부각하는 것은 에이전트의 '명칭'과 '실력'이 괴리되어 있다는 구조적 문제다. 오케스트레이션 기반——여러 에이전트를 지휘·조정하는 메커니즘——의 정비는 빠르게 진행 중이지만, 그 위에서 작동해야 할 진정한 에이전트가 아직 거의 존재하지 않는다는 역설적인 상황이라고 할 수 있다. 하이브리드형 제어 기반과 실시간 비용 모니터링 도구에 대한 수요는 앞으로 높아질 것으로 보이며, 플랫폼 선택보다도 '실제로 운영할 수 있는 운영 체제를 어떻게 구축할 것인가'가 기업에게 있어 본질적인 과제로 떠오르고 있다.

조사는 VentureBeat의 지속적인 Pulse Research 시리즈의 일환으로 실시됐다. 대상은 종업원 100명 이상의 기업 101개사이며, 규모별로는 100~499명, 2,500~9,999명, 5만 명 이상이 각각 21%씩 균등하게 분산돼 있다. 응답자의 직책은 프로덕트·프로그램 매니저(15%), CIO·CTO·CISO(13%), 컨설턴트·어드바이저(13%) 등 의사결정에 가까운 층이 중심을 이루고 있다.