AI 에이전트를 보호하는 '면역 체계' 등장

AI 에이전트의 보안에 새로운 방어선이 그어졌다. 엔터프라이즈급 오픈소스 AI 에이전트 프레임워크 'NanoClaw'를 개발하는 NanoCo AI와 소프트웨어 공급망 관리의 리더인 JFrog가 제휴하여 AI 에이전트를 악의적인 코드로부터 보호하는 보안 통합 기능을 공동 출시했다. 양사는 이러한 구조를 '면역 체계'라고 표현하고 있다.

이 통합이 해결하려는 문제의 핵심은 자율형 AI 에이전트의 '자기 확장' 능력에 있다. NanoCo AI의 CEO 겸 공동 창립자인 Gavriel Cohen은 에이전트의 동작을 다음과 같이 설명한다. "음성 파일을 처리하도록 지시받은 에이전트는 '음성 노트를 이해할 수 없으니 패키지를 획득하여 다운로드하고 설치하여 실행하자'고 스스로 판단한다". 이러한 자율적인 문제 해결 능력이 AI 에이전트를 강력하게 만드는 동시에, 소프트웨어 공급망 공격에 매우 취약하게 만들기도 한다.

특히 심각한 것은 에이전트를 조작하는 사용자가 반드시 개발자가 아니라는 점이다. JFrog의 최고 전략 책임자인 Gal Marder는 "에이전트는 반드시 통제할 수 있거나 훈련될 수 있는 행동을 취하지 않는다"고 지적하며, "에이전트를 조작하는 사람들은 개발자가 아닐 수도 있으며, 그 행동이 어떤 영향을 미칠지 인식하지 못할 수도 있다"고 Cohen도 경고한다. 악의적인 공격자가 오픈소스 패키지 레지스트리에 불정당한 코드를 주입하는 사례가 증가하고 있으며, 인간의 감시를 피해 에이전트가 자동으로 이를 획득할 위험이 현실화되고 있다.

이번 통합을 통해 NanoClaw 에이전트는 소프트웨어 패키지, CLI 도구, Model Context Protocol(MCP) 서버에 대한 요청을 JFrog의 검증된 레지스트리를 통해서만 처리하도록 설정된다. 이로써 AI 어시스턴트는 스캔된 안전한 의존성만 획득할 수 있게 된다. 즉, 에이전트가 접근할 수 있는 소프트웨어의 '화이트리스트'를 자동으로 강제 적용하는 방식이다.

제공 형태는 오픈소스 커뮤니티에는 완전히 무료로 제공될 예정이며, 엔터프라이즈용으로는 JFrog의 기존 상용 라이선스 환경을 통해 원활하게 사용할 수 있다. 이번 발표는 NanoCo AI가 Vercel과의 제휴로 구현한 권한 다이얼로그 추가, Docker와의 컨테이너를 통한 AI 에이전트의 안전한 실행 환경 정비에 이어지는 것으로, 보안 강화를 위한 일련의 노력의 일환이 되고 있다. AI 에이전트의 보급이 가속화되는 가운데, 그 '보이지 않는 동작'을 어떻게 안전하게 관리할 것인가는 업계 전체의 긴급한 과제가 되고 있다.