AI에이전트의 보안 과제와 DPACT프레임워크

AI에이전트의 보안 설계에 관한 새로운 개념적 틀로서 'DPACT프레임워크'가 제시되고 있다. 보안 분야의 전문가인 Sahil Agarwal이 AI에이전트에서의 신원 관리·권한 부여·보안의 과제를 정리하고 이 틀을 제안했다.

DPACT는 위임(Delegation)·정책(Policy)·감시 가능성(Auditability)·맥락(Context)·시간(Time)의 첫 글자를 따온 신조어다. 이는 AI에이전트가 다른 시스템이나 인간을 대신하여 행동할 때 발생하는 접근 제어 문제에 대처하기 위한 설계 원칙을 정리한 것으로 자리매김된다.

현재의 대부분 AI에이전트는 토큰(인증 정보의 일종)을 사용하여 시스템에 대한 접근 권한을 얻는 메커니즘에 의존하고 있다. 하지만 Agarwal은 이러한 단순한 토큰 방식에서 벗어나 더욱 범위가 제한된 '위임형 권한 관리'로 이행할 것을 주장한다. 즉, 에이전트가 '무엇이든 할 수 있는' 상태가 아니라 '필요한 범위만큼만 권한을 제한한' 설계가 요구된다는 사고방식이다.

배경에는 AI에이전트의 실용화가 급속도로 진행되고 있다는 현실이 있다. 업무 자동화나 여러 시스템을 걸친 처리를 에이전트에 맡기는 경우가 증가함에 따라, 그 에이전트가 '누구로서' '어디까지' 행동해도 되는지를 명확히 할 필요성이 높아지고 있다. 종래의 소프트웨어와 달리 AI에이전트는 상황에 따라 자율적으로 판단·행동하므로 권한의 경계가 모호해지기 쉬운 특성을 가진다.

DPACT프레임워크가 특히 중시하는 것은 에이전트의 행동을 나중에 추적·검증할 수 있는 '감시 가능성'과 권한이 유효한 기간을 제한하는 '시간적 제약'의 두 가지다. 이들은 만약 에이전트가 오작동하거나 악용될 경우 피해의 범위를 최소화하고 원인을 특정하기 쉽게 하기 위한 안전장치로 기능한다고 볼 수 있다.

AI에이전트의 보안은 지금까지의 사이버보안 지식을 그대로 적용할 수 없는 부분도 많다. 에이전트는 고정된 프로그램이 아니라 상황에 따라 행동이 변하므로 '무엇이 정상적인 행동인지'의 정의 자체가 어렵기 때문이다. DPACT와 같은 틀이 논의의 출발점이 됨으로써 업계 전체로서 가이드라인이나 표준을 정비해 나갈 토대가 마련된다고 자리매김된다.

AI에이전트의 보급이 현실화되고 있는 지금 보안 설계의 논의는 기술자뿐만 아니라 에이전트를 도입하는 기업의 의사결정자에게도 피할 수 없는 주제가 되고 있다. 어떠한 권한 관리 체계를 선택할 것인가는 위험 관리 문제인 동시에 신뢰할 수 있는 AI 활용의 기반을 어떻게 구축할 것인가라는 질문이기도 하다.