OpenAI와 폐쇄형 AI의 사이버 능력 격차 축소

인공지능이 사이버 공격에 악용될 경우의 위험도를 측정하는 지표로서, 오픈 모델과 폐쇄형 모델의 차이가 과거에 없을 정도로 축소되고 있다. AI 벤치마크 평가기관 Vals AI가 실시한 평가에 따르면, OpenAI의 폐쇄형 모델 'GPT-6 Sol Daybreak'는 모의 기업 네트워크 환경에서 공격 목표의 80.8%를 달성했다. 한편, 누구나 가중치를 획득하여 자유롭게 구동할 수 있는 '오픈웨이트' 모델인 DeepSeek의 'V4.1 Flash'는 72.8%라는 근접한 수준에 도달했으며, 게다가 비용은 GPT-6의 10분의 1에 불과하다.

이 평가가 보여주는 숫자 자체보다 더 중요한 것은 양자의 격차가 축소되고 있다는 것의 의미다. 폐쇄형 모델은 제공 기업이 접근을 관리할 수 있기 때문에 악용이 확인되면 이용을 제한하거나 기능을 조정할 수 있는 수단이 있다. 하지만 오픈웨이트 모델은 일단 공개되면 가중치 파일이 전 세계로 확산되어 제공자가 사용 방식을 제어하는 것이 거의 불가능해진다. 이번 평가는 바로 그 제어할 수 없는 모델이 이미 높은 사이버 공격 능력을 갖추고 있음을 수치로 보여주었다.

Vals AI의 벤치마크가 대상으로 하는 것은 모의 기업 네트워크 환경에서의 공격 과제다. 공격 목표 달성률이라는 지표는 모델이 자율적으로 얼마나 사이버 공격 절차를 실행할 수 있는지를 측정하는 것으로, 현실의 보안 환경에 얼마나 위협이 될 수 있는지의 하나의 목안이 된다. DeepSeek V4.1 Flash가 72.8%라는 높은 달성률을 비용의 저렴함과 함께 실현하고 있다는 점은 공격 비용 저하의 관점에서도 주목할 만하다.

인공지능을 이용한 사이버 공격에 대한 우려는 이전부터 지적되어 왔으나, 지금까지는 고성능 모델에 대한 접근이 일정한 비용이나 관리된 절차를 필요로 한다는 점이 일종의 억지력으로 작용해 온 측면이 있다. 오픈웨이트 모델의 성능이 급속도로 향상되는 가운데 그러한 암묵적 장벽은 옅어지고 있다는 견해가 가능하다. 이번 평가는 그 변화를 정량적으로 보여준 사례라고 할 수 있다.

분석가들은 이러한 상황이 방어 측이 대응할 수 있는 시간 창을 급속도로 좁혀가고 있다고 지적하고 있다. 인공지능을 활용한 공격이 자동화·저비용화 방향으로 진행되는 한편, 방어 측은 그 변화에 따라잡기 위한 자원과 전문 지식을 필요로 한다. 공격과 방어의 비대칭성이 인공지능의 보급으로 더욱 두드러질 가능성이 있다는 견해도 확산되고 있다.

향후 주목할 점은 오픈웨이트 모델의 사이버 능력 평가를 어떻게 다룰 것인가 하는 논의의 향방이다. 모델 공개 전에 위험 평가를 의무화해야 할지 여부, 혹은 어느 수준부터 위험으로 간주할지 하는 기준 마련은 아직 국제적 합의가 형성되지 않은 단계에 있다. 이번과 같은 정량적 벤치마크의 존재는 그 논의를 구체화하기 위한 자료로 위치지어진다.

사이버보안 분야에서는 방어 도구로서도 인공지능의 활용이 진행되고 있다. 위협 탐지나 이상 행동 분석에 인공지능을 도입하는 움직임이 확산되고 있으며, 공격과 방어 양면에서 인공지능이 사용되는 구도는 향후에도 계속될 것으로 예상된다. 다만 이번 평가가 보여주는 바와 같이 저비용으로 고성능의 공격 도구가 손이 닿는 곳에 존재한다는 현실은 방어 측의 노력에 한층 더 긴장감을 가져오고 있다.