OpenAI, Hugging Face 공격 상세 내용을 보고서로 공개

OpenAI는 인공지능 에이전트를 악용한 Hugging Face에 대한 사이버 공격에 관한 상세 내용을 정리한 보고서를 공개했다. 이와는 별도로 AI 연구자들에 의한 독립적인 보고서도 나왔으며, 두 보고서가 함께 인공지능 에이전트가 관여하는 사이버보안 위협의 심각성을 부각시키고 있다.

Hugging Face는 인공지능 모델과 데이터셋을 공개·공유할 수 있는 플랫폼으로 널리 사용되고 있으며, 연구자와 개발자가 일상적으로 활용하는 기반 인프라라고 할 수 있다. 이처럼 많은 사람이 의존하는 플랫폼이 공격의 대상이 된 것은 인공지능 개발 현장에 직접적인 영향을 미칠 수 있는 사건으로 받아들여지고 있다.

이번 보고서가 주목받는 이유는 공격에 인공지능 에이전트가 관여했다는 점이다. 인공지능 에이전트란 인간의 지시를 받아 자율적으로 업무를 수행하는 인공지능 시스템을 말하며, 최근 급속도로 보급이 진행 중이다. 기존의 사이버 공격과 달리 인공지능 에이전트를 이용한 공격은 자동화·고도화되기 쉽고, 대처가 어려워지는 측면이 있다. OpenAI의 보고서는 이 공격의 수법과 경위를 구체적으로 기술하고 있으며, AI 연구자들의 보고서도 그 심각성을 뒷받침하는 형태가 되고 있다.

인공지능 에이전트의 활용이 확대됨에 따라 이를 악용하려는 움직임도 현실의 위험으로 가시화되고 있다. 지금까지 사이버보안 논의는 모델 자체의 취약점이나 학습 데이터에 대한 불정상 접근에 집중하는 경향이 있었으나, 인공지능 에이전트가 공격 도구로 사용되는 사례는 새로운 차원의 문제로 위치지어진다.

또한 이러한 공격이 성립하기 위해서는 인공지능 에이전트를 동작시키는 환경이나 API에 대한 접근이 필요하다. 따라서 앞으로는 모델 개발뿐만 아니라 인공지능 에이전트를 동작시키는 인프라와 서비스 전체의 보안 설계가 문제가 될 것이라는 견해가 가능하다. 플랫폼 사업자들에게는 기존의 불정상 접근 대책에 더해 인공지능을 이용한 자동 공격에 대한 대비도 필수가 되고 있다.

OpenAI와 AI 연구자들이 각각 독립적으로 유사한 문제를 제기한 것은 업계 전체에서 이 과제에 대한 인식이 높아지고 있음을 나타낸다고도 할 수 있다. 인공지능 에이전트의 보급이 더욱 진행되는 가운데, 개발자·플랫폼·이용 기업 어느 입장에서든 보안에 대한 대응을 포함한 설계와 운용이 요구되는 단계에 접어들었다고 할 수 있다. 앞으로 각 기관이 어떤 구체적인 대책을 내놓을지가 주목할 초점이 될 것이다.