Google의 AI 에이전트, XSS 취약점 500건 이상 발견

Google이 AI를 활용한 보안 에이전트 'PageBreak'을 개발하여 자사 웹 애플리케이션에서 500건을 초과하는 XSS 취약점을 발견했다는 내용을 논문으로 공개했다. XSS(크로스사이트 스크립팅)란 공격자가 악의적인 스크립트를 웹페이지에 삽입하여 사용자의 브라우저 상에서 실행시키는 기법이다. PageBreak은 2025년 1월에 본격 가동을 시작했으며, 그 이후에 탐지한 건수가 이 숫자에 해당한다.

웹 애플리케이션의 보안 점검은 전통적으로 숙련된 엔지니어가 수작업으로 수행하거나 패턴 매칭 방식의 자동 도구에 의존하는 것이 일반적이었다. 하지만 둘 다 복잡한 애플리케이션이나 새로운 공격 패턴에 대한 대응에는 한계가 있다는 지적이 있어왔다. AI 에이전트를 취약점 탐색에 활용하려는 시도는 최근 증가하고 있지만, 정확도 측면에서는 오탐(실제로는 문제가 없는데도 경고를 발생시키는 현상)이 과제로 자주 언급된다.

PageBreak은 Google의 AI 모델 'Gemini'를 중심으로 두고 취약점 후보를 자율적으로 조사하는 메커니즘을 갖추고 있다. 다만 AI가 의심스럽다고 판단했다고 해서 곧바로 보고에 이르지는 않는다. 실제로 운영 중인 애플리케이션에 대해 공격 시나리오를 재현하고, 결정론적 검증기가 그 재현에 성공한 뒤에야 비로소 리포트가 생성되는 설계로 되어 있다. 이러한 이단계 확인 프로세스가 오탐을 억제하는 핵심 요소가 되고 있다.

이 메커니즘이 지니는 의의는 발견 건수의 많음에만 머물지 않는다. 'AI가 후보를 찾고, 결정론적 방법으로 근거를 확보한다'는 이층 구조는 AI의 유연한 탐색력과 전통적 도구의 확실성을 결합한 설계로 위치지을 수 있다. 보안 분야에서는 오탐이 많으면 현장 담당자의 신뢰를 잃어 도구 자체가 사용되지 않을 위험이 있다. 따라서 정확도를 보장하는 메커니즘을 내장한 점은 실제 운영에서의 중요한 판단이라 할 수 있다.

Google이 PageBreak의 상세 내용을 논문으로 공개한 것도 주목할 만하다. 자사 보안 성과를 대외적으로 제시하는 것은 연구 커뮤니티와 동종 업계에 설계상 참고 정보가 될 뿐 아니라, AI를 활용한 보안 기법의 표준적 논의를 촉진하는 효과도 있다. 향후 유사한 접근 방식을 채택하는 움직임이 업계 내에서 확산될지 여부도 하나의 관찰 포인트가 될 것으로 보인다.

AI 에이전트가 보안 점검에 본격적으로 내장되는 흐름은 앞으로도 계속될 것으로 예상된다. 그 과정에서 문제가 되는 것은 단순히 '몇 건을 발견했는가'라는 수치가 아니라, 발견한 취약점이 실제 위험 경감에 얼마나 기여했는가 하는 실효성이다. PageBreak의 사례는 그러한 평가 기준을 생각하는 데 있어서도 하나의 참고 사례로 언급될 가능성이 있다.