Visa, 취약점을 자동 수정하는 보안 AI 공개

Visa는 소프트웨어 취약점을 감지하는 것은 물론 수정 코드 작성과 검증까지 자동으로 수행하는 보안 도구 「VVAH(Visa Vulnerability Agentic Harness)」를 오픈소스로 공개했다. 이 도구는 11단계의 프로세스를 자동으로 실행하며, 인간의 검토 없이 대상 저장소의 소스코드를 직접 수정하는 설정이 기본값이다. 감지 단계에만 머물러야 한다면 운영 담당자가 명시적으로 제한을 적용해야 한다.

VVAH는 원래 Visa가 AI 기업 Anthropic의 「Project Glasswing」에 참여하면서 개발되기 시작했다. 이 프로젝트에서 Anthropic의 AI 모델 「Claude Mythos」를 Visa의 결제 네트워크에 대해 사용하여 개별적으로는 경미해 보이는 여러 약점들을 연쇄시켜 실제로 작동하는 공격 기법을 구축할 수 있다는 것을 확인했다. Visa 기술 부문 회장 라자트 타네자 씨는 이 경험을 돌아보며 「VVAH는 처음에 Mythos만을 사용했으며, 그곳에서 우리는 이 신세대 모델이 가진 의미론적 추론의 힘을 실감했다」고 말했다.

도구는 GitHub에 6월에 공개되었으며, 7월 20일 시점에서 595개 스타·97개 포크였으나, 8월 25일 시점에서는 2,300개를 초과하는 스타를 기록했고 포크 수도 300개를 넘어섰다. 타네자 씨는 저장소의 클론 비율(방문자 대비 클론 실행 비율)이 약 9%에 달한다고 설명하며 「매우 명성 높은 기업들이 이 도구를 사용하기 시작했다」고 밝혔다. 한편 저장소는 현재 외부로부터의 코드 기여를 받고 있지 않다.

이번 공개와 함께 기능도 확장되었다. 종래에는 「감지·검증·보고」의 3단계가 중심이었던 반면, 새 버전에서는 「감지·검증·수정·타당성 확인·재시도」라는 5단계의 사이클로 진화했다. 타네자 씨는 「수정이 취약점을 무효화하지 못했다면 거기서 끝나지 않고 다시 시도한다」고 설명하며, 수정의 유효성을 AI 자신이 반복해서 확인하는 설계가 되어 있다.

Visa가 이 도구를 무료로 공개한 이유에 대해 타네자 씨는 자사와 자사 생태계 보호를 주요 목적으로 하면서도 「사이버보안에 대한 투자와 지식이 충분하지 않은 기업들을 위해 올바른 일을 할 의무가 있다」는 말을 가장 강한 동기로 꼽았다. 다만 코드 제공은 어디까지나 일방향이며, 채택 기업의 코드를 수정하는 도구가 역으로 외부 기여를 받는 구조는 아니다.

한편 이 기본 설정을 둘러싸고는 보안 전문가들로부터도 이의가 제기되고 있다. LLM 애플리케이션의 리스크를 정리한 프레임워크 「OWASP Top 10 for LLM Applications」의 공동 리드를 맡고 있는 스티브 윌슨 씨는 AI 에이전트가 인간의 승인 없이 실운영 환경을 변경할 수 있는 설계에 대해 우려를 나타낸다. 동 씨는 「모델 외부에 인가 게이트를 두어야 한다. 에이전트는 변경 방안을 제시할 수 있지만 스스로 실행 권한을 부여해서는 안 된다」고 밝히고 있으며, 자율적인 코드 변경이 어디까지 허용될 수 있는지는 업계 전체의 과제로 대두되고 있다.

이 도구가 던지는 질문은 AI가 보안 대응의 속도를 획기적으로 높인 그 선에서 「인간의 개입을 어디에 남길 것인가」라는 문제다. 타네자 씨는 「AI는 인류의 기술사상 그 어느 때보다도 빠른 속도로 취약점을 발견하고 있다. 새로운 병목은 수정과 수정했다는 것의 증명이다」라고 말하며 인간의 검토를 기다리는 것이 오히려 리스크가 될 수 있다고 주장한다. 보안의 자동화가 어느 범위까지 인정될 수 있는지는 향후 업계 표준과 규제 논의에 영향을 미칠 움직임으로 자리매김된다.