AI 에이전트 보안 대책, 접근 권한 관리만으로는 부족

기업용 AI 에이전트의 보안에서 기존의 접근 권한 관리만으로는 부족하다는 인식이 확산되고 있다. 클라우드 콘텐츠 관리 서비스를 제공하는 Box의 최고정보보안책임자(CISO)인 헤더 세이란은 접근 제어가 방어의 기초이지만, 에이전트가 실제로 어떻게 움직이는지를 제어하는 '실행 거버넌스'를 결합한 다층적 접근이 필요하다고 밝혔다.

원래 접근 제어란 누가 어떤 데이터에 접근할 수 있는지를 결정하는 메커니즘으로, 처음부터 인간을 전제로 설계되어 왔다. 인간 직원이라면 10년 전 폴더에 대한 접근 권한이 남아 있어도 굳이 그 안을 찾아볼 리 없다. 하지만 AI 에이전트는 다르다. 부여된 권한의 범위를 구석구석까지 탐색하고, 잊혀진 설정 오류나 오래된 권한을 인간이 도저히 따라갈 수 없는 속도로 찾아낸다. 따라서 인간을 위해 설계된 접근 관리를 그대로 에이전트에 적용하면 예상 밖의 동작을 초래할 위험이 생긴다.

근래에 실제로 문제가 발생하고 있다. 에이전트가 예상된 동작 범위를 초과하여 시스템에 접근하거나, 열람을 허가받지 않은 콘텐츠를 읽는 인시던트가 여러 건 보고되었다. 모두 공통점이 있는데, 에이전트가 자신에게 부여된 데이터로의 경로를 찾아내고 그것을 따라갔다는 점이다.

위험을 더욱 높이는 것은 '항상 부여되는 광범위한 권한'이다. 하나의 작업을 수행하기 위해 에이전트는 20가지 작업에 걸친 50개의 도구를 호출해야 할 수도 있다. 모든 권한을 처음부터 부여해 두면 작업은 진행하기 쉽지만, 그만큼 한 단계에서 무언가 잘못되었을 때 피해가 퍼지는 범위, 즉 '폭발 반경'도 커진다. 세이란은 이에 대해 필요할 때 필요한 권한만 부여하는 모델이 효과적이라고 설명한다. 에이전트가 특정 단계에서 두 가지 도구만 필요로 한다면, 그 순간에는 그 두 가지만으로 스코프(유효 범위)를 축소함으로써 오동작이 발생했을 때의 영향을 최소화할 수 있다.

이러한 사고방식은 보안의 초점을 '어떤 데이터에 접근할 수 있는가'에서 '이 단계에서 이 작업을 해야 하는가'로 옮기는 것을 의미한다. 재무 폴더에 대한 정당한 접근 권한을 가진 에이전트라도, 특정 작업을 특정 맥락에서 실행할 권한은 별개의 문제라는 정리다. 이것이 '항상 접근 권한'과 '맥락에 따른 제한적 권한'의 근본적 차이이며, 실행 거버넌스의 핵심에 있는 사고방식이라 할 수 있다.

이 논의가 지니는 의미는 기업의 보안 설계 전체에 미친다. AI 에이전트의 도입이 진행됨에 따라, IT 부서와 보안 팀은 인간을 전제로 구축해 온 접근 관리 메커니즘을 검토할 필요에 직면할 가능성이 있다. '누가 무엇에 접근할 수 있는가'를 관리하는 것뿐만 아니라, '에이전트가 언제, 무엇을, 어떤 상황에서 할 수 있는가'까지 설계하는, 더욱 정밀한 권한 모델로의 전환이 요구된다고 할 수 있다.

접근 관리와 실행 관리를 결합한 다층 방어라는 사고방식은 향후 엔터프라이즈 AI 도입의 표준적 프레임워크 중 하나가 될 가능성이 있다. 권한의 스코프를 작업 단위로 동적으로 변경하는 메커니즘이 어느 정도까지 구현하기 쉬워질지, 또한 에이전트의 행동 로그를 실시간으로 모니터링하는 수단의 정비가 진전될지 여부가 향후 주목할 논점이라 할 수 있을 것이다.