기업 AI 확대, 관리 체제가 따라가지 못함

기업의 AI 활용이 급속도로 확산하는 한편, 이를 관리·감독하는 체제가 따라가지 못하는 실상이 조사에 의해 드러났다. VentureBeat가 2026년 6월에 실시한 Pulse Research(종업원 100명 이상의 기업 145곳 대상)에 따르면, 응답 기업의 약 6할(58%)이 AI의 노력을 확대 중이며, '대폭 확대하고 있다'는 응답이 가장 많았다. 그러나 확대의 속도에 비해 이를 적절히 파악·통제하는 체계는 크게 뒤처져 있다.

배경으로 이해해야 할 점은 기업이 AI를 도입할 때 복수의 플랫폼이나 도구를 병행하여 사용하는 경우가 일반화되었다는 상황이다. 클라우드 기반, 업무 시스템 연계, 독자 개발 에이전트(자율적으로 과제를 수행하는 AI 프로그램) 등 각각 다른 벤더의 서비스가 사내에 혼재하게 되고 있다. 이러한 '다층화'가 진행될수록 전체를 일원적으로 통찰하는 관리가 어려워지는 구조적 문제가 발생하기 쉽다.

실제로 이번 조사에서 응답 기업의 85%가 '자사 AI의 주요 기반'을 주장하는 플랫폼을 2개 이상 보유하고 있으며, 1개로 통합된 기업은 겨우 8%에 불과했다. 또한 본 운영 환경에서 동작하는 AI 모델이 오작동하거나 안전하지 않은 거동을 보일 경우 '감지할 수 있다는 확신이 있다'고 답한 기업은 40%였지만, 실제로 자동 감시·알림 체계를 정비한 기업은 그 중 10%에 불과했으며, 나머지는 인력에 의한 수동 확인에 의존하고 있었다. AI를 운영하는 체계는 갖춰졌지만 감시하는 체계는 수작업에 의존하고 있다.

관리의 공백은 책임의 소재 불명확성으로 특히 분명하게 나타난다. AI 관리를 중앙 팀이 통합한다고 답한 기업은 38%이며, 각 플랫폼의 팀이 각각 독립적으로 관리한다는 응답은 20%였다. 복수 플랫폼에 걸친 통치를 방해하는 최대 장애물로 가장 많이 지적된 것은 '전체에 책임을 지는 담당자가 없다'(32%)는 점이며, 약 6명 중 1명(17%)은 '정식 책임자가 없다'고 답했다.

이러한 책임의 공백은 비용 관리의 실패로도 직결되고 있다. 조사에서 49%의 기업이 '섀도우 AI'——즉, 중앙 관리 외에서 개인의 신용카드 등을 사용하여 비공식적으로 운영 중인 AI 파이프라인——을 가장 심각한 관리상의 문제로 지적했다. 더욱이 25%의 기업은 AI 에이전트가 처리를 무한 반복하는 '무한 루프' 상태에 빠져 예상 외의 고액 청구가 발생하는 사태를 실제로 경험했다. 재무적·업무적 피해는 이미 현실이 되고 있다.

이번 조사 결과가 보여주는 본질적 문제는 기술의 부족이 아니라 '누가 AI 전체에 책임을 지는가'라는 조직적 질문에 대한 답이 없다는 점으로 볼 수 있다. AI의 도입 규모가 커질수록 플랫폼을 넘나드는 전체상을 파악하고 문제가 발생했을 때 신속하게 대처할 수 있는 체제가 필요해진다. 자동 감시 도구의 정비나 AI 관리 책임자 직책의 설치 등 '확대와 통제의 균형'을 어떻게 맞출지가 기업 AI 전략의 다음 초점이 될 것으로 볼 수 있다.

이번 조사 표본은 종업원 100~2,499명 규모의 중견·준대기업에 편중되어 있으며, 특정 섹터에 한정한 조사는 아니지만, 그럼에도 이만큼 광범위하게 과제가 공유되고 있다는 사실은 무겁다. AI 활용의 경쟁이 심화하는 가운데 확대의 속도만을 추구하는 것이 아니라 관리 체제의 구축이 실질적인 리스크 관리의 과제로 부상하고 있다.