AI 에이전트가 무방비 LLM을 장악하여 사이버 공격 실행

보안 회사 Symantec의 연구원들이 인터넷 상에서 보호되지 않은 대규모 언어 모델(LLM)을 장악하여 자율적으로 사이버 공격을 실행하는 AI 에이전트를 발견했다. 이 에이전트는 인간의 조작 없이 최대 10만 스텝을 연속 실행하며, 서버에 대한 공격, 데이터베이스 탈취, 암호화폐 채굴 소프트웨어 설치까지를 단독으로 수행한다고 한다.

AI 에이전트란 주어진 목표를 달성하기 위해 스스로 판단하고 행동을 반복하는 AI 시스템을 의미한다. 최근 비즈니스 자동화 및 업무 지원 분야에서 빠르게 보급되고 있으며, 많은 조직이 외부에서 호출 가능한 형태로 LLM을 공개·운영하는 사례가 증가하고 있다. 이러한 구성에서는 LLM 자체를 보호하는 설정이 부족하면 외부에서 악용되는 입구가 될 수 있다는 배경이 있다.

이번에 발견된 에이전트는 먼저 적절한 접근 제어가 설정되지 않은 LLM을 웹 상에서 찾아내고, 이를 발판으로 삼아 공격의 일련의 단계를 실행하는 구조로 알려졌다. 연구원들이 '스카이넷 모드'라고 부르는 동작에서는 공격자 자신이 지시를 내리지 않더라도 에이전트가 자율적으로 판단하면서 다음 행동으로 계속 진행한다. 피해의 또 다른 측면으로, 장악된 LLM의 이용 비용이 그 모델의 소유자에게 청구된다는 점도 확인되었으며, 공격의 피해자는 깨닫지 못한 채 비용을 계속 부담하게 된다.

이 사례가 보여주는 최대의 문제는 AI 에이전트의 자율성이 사이버 공격의 규모와 속도를 크게 높일 수 있다는 점이다. 기존 공격에서는 인간이 각 단계에서 판단·조작할 필요가 있었지만, AI 에이전트가 그 역할을 대신함으로써 더 적은 비용으로 지속적이고 광범위한 공격이 가능해질 수 있다. LLM을 외부에 공개하고 있는 조직에게는 접근 제어의 부족이 직접적인 피해 위험으로 직결된다는 새로운 현실을 제시하고 있다.

LLM을 업무에 활용하는 조직이 급증하는 가운데, 보안 설정의 중요성은 그 어느 때보다도 높아지고 있는 것으로 보인다. 인증·권한 부여의 체계를 적절히 설정하고, 비정상적인 API 호출을 감지하는 감시 체계를 정비하는 것이 향후 대책으로 요구될 것이다. Symantec의 이번 발견은 AI 활용의 확대와 동반하는 형태로 공격 측도 AI를 무기화하는 단계로 이행하고 있음을 보여주는 사례로 위치지어진다.

AI 에이전트를 사용한 사이버 공격 기법이 확인된 이상, LLM의 공개·운영에 있어서는 보안 설계를 뒤로 미루지 않는 자세가 필수적이다. 기술의 이용 편의성과 안전성의 균형을 어떻게 맞출지는 AI 활용이 가속화되는 모든 조직에게 피할 수 없는 과제가 되고 있다.