기업의 AI에이전트 관리, 격리 대책에 큰 허점

AI에이전트(자율적으로 업무를 수행하는 AI 시스템)의 보안 대책에서 많은 기업이 '설정했다고 생각하는 것'과 '실제로 기능하는 것' 사이에 심각한 격차를 안고 있다는 것이 VentureBeat의 조사를 통해 명확해졌다. 올해 1월부터 6회에 걸쳐 실시된 이번 조사는 기업의 보안 담당자 440명을 대상으로 하고 있으며, AI에이전트의 보급이 가속화되는 가운데 위험 실태를 지속적으로 추적해 왔다.

조사 결과에 따르면, 응답 기업의 53%가 이미 AI에이전트 관련 보안 인시던트 또는 인시던트 직전의 사태를 경험하고 있다. 한편, 에이전트의 작동 권한을 실시간으로 제한하고 있다고 답한 기업은 65%에 달하지만, 위험도 높은 에이전트를 다른 시스템으로부터 격리(아이솔레이션)하고 있는 기업은 18%에 불과하다. 더욱이 권한 제한과 격리를 모두 실시하는 기업은 전체의 8%에 지나지 않는다. 다시 말해, 문제 발생 시 실제로 피해를 격리할 수 있는 체제가 갖춰진 기업은 거의 존재하지 않는 상황이다.

이러한 대책의 공백을 메우는 역할을 담당하는 것이 클라우드 제공자와 AI 플랫폼 사업자가 제공하는 보안 기능이다. 7월 조사에서는 주요 보안 계층으로 어떤 형태의 도구를 도입한 기업 중 92%가 하이퍼스케일(대규모 클라우드 사업자) 또는 AI 플랫폼 제공자의 기본 기능에 의존하고 있다는 것이 드러났다. 그러나 이러한 외부 의존의 태도는 자사 고유의 위험에 대한 대응을 뒤로 미룰 가능성이 있다고 볼 수 있다.

조사에서는 보안 도구 평가와 관련해 흥미로운 추세도 드러났다. 인시던트나 직전 사태를 경험한 46개 사의 도구 만족도 평균은 5점 만점 중 4.39점이었던 반면, 인시던트를 경험하지 않은 55개 사 중 30개 사의 평균은 4.13점이었다. 즉, 실제로 문제가 발생해서 그것을 막은 도구일수록 높은 평가를 받는 역전 현상이 일어나고 있다. 또한 가장 위험도 높은 에이전트를 격리하는 17개 사에서는 도구 평가의 평균이 4.00점이었던 반면, 격리하지 않은 기업군의 평균은 4.35점으로 높았다.

이 수치가 보여주는 것은 기업의 도구 평가가 실제 안전성보다 '체험한 결과'에 강하게 좌우된다는 구조이다. 인시던트를 한 번도 경험하지 않은 기업은 도구가 정말로 기능하는지 확인할 기회가 없고, 평가가 낮아지기 쉽다. 반대로 문제를 겨우 막은 기업은 '구해졌다'는 체험을 근거로 신뢰를 높인다. 7개월간의 데이터를 통해 VentureBeat는 이 '구조적 체험이 마케팅을 겸하고 있다'는 구조를 지적하고 있다.

한편, 개별 사례로서 Visa의 기술 담당 프레지던트인 Rajat Tanejia가 VB Transform 2026의 자리에서 Anthropic의 AI 모델 'Mythos'를 사용해 Visa 자사의 결제 네트워크에 대한 보안 테스트를 실시했음을 공개했다. 이 테스트에서는 단독으로는 경미한 취약점이 연쇄적으로 연결되어 실제로 기능하는 공격 경로가 구축되었다고 한다. Visa는 이 테스트를 제어하기 위한 도구 일식을 오픈소스로 공개하고 있다. 이러한 취지는 자사에서 발견한 문제를 실제 대책으로 이어지게 하는 기술적 기반과 체제를 갖춘 기업의 한 사례로 위치지을 수 있다.

AI에이전트는 업무 효율화의 수단으로서 기업에 도입이 확대되고 있으나, 에이전트가 오작동하거나 외부에서 악용될 경우 영향 범위는 종래의 소프트웨어보다 클 수 있다. 이번 조사가 보여주는 '설정은 했지만 격리할 수 없다'는 상태는 에이전트 AI에 대한 투자가 확대되는 가운데 간과하기 어려운 위험이다. 권한 관리와 격리의 양립, 그리고 외부 의존으로부터의 탈피가 앞으로의 기업 보안의 초점이 되어갈 것이라고 볼 수 있다.