OpenAI, GPT-6을 사이버보안 최고 위험으로 분류

OpenAI는 새로운 모델 「GPT-6 Astra」를 자사의 안전 평가 기준인 「Preparedness Framework」에서 사이버보안 위험의 최고 등급인 「Critical」로 분류했다. 동사의 모델이 이 등급에 도달한 것은 이번이 처음이다.

Preparedness Framework는 OpenAI가 강력한 인공지능 모델을 공개하기 전에, 그 잠재적 위험을 단계적으로 평가하기 위해 마련한 독자적인 안전 기준이다. 화학·생물 무기의 악용 위험, 사이버 공격 활용 가능성 등을 여러 관점에서 평가하고, 각각에 위험 수준을 설정하는 체계이다. 이번 「Critical」이라는 최고 수준에 도달한 것은 GPT-6 Astra가 사이버 공격 분야에서 기존 모델과는 다른 차원의 능력을 지니고 있다고 OpenAI 자신이 판단했음을 의미한다.

전문가 팀의 테스트에서는 GPT-6 Astra가 브라우저와 운영체제(OS) 커널에서 그때까지 알려지지 않은 취약점을 발견했다. 나아가 이를 실제로 악용할 수 있는 「엑스플로잇」이라 불리는 공격 코드 작성에도 성공했다. 이는 단순히 취약점을 지적하는 것뿐만 아니라, 실제 공격에 사용 가능한 수단을 스스로 구성할 수 있었음을 보여주며, 테스트 결과로서 간과할 수 없는 사실이다.

한편 같은 시스템 카드(모델의 안전성 평가 보고서)에서는 다른 우려도 보고되었다. 「chain-of-thought」의 감시 가능성이 대폭 저하되었다는 것이다. 사고 연쇄란 인공지능이 답에 도달하기까지의 추론 단계를 시각화한 것으로, 연구자와 안전 담당자가 모델의 의도와 판단 과정을 확인하기 위한 중요한 단서로 기능해왔다. 그 투명성이 낮아졌다는 것은 모델의 내부 동작을 외부에서 파악하기 어려워졌음을 의미한다.

이러한 상황은 인공지능 안전 분야의 오랜 과제와 깊이 연결되어 있다. 모델이 고성능일수록 잠재적 위험도 높아진다는 「능력과 위험의 트레이드오프」는 이미 지적되어 왔지만, 이번에는 능력의 향상과 감시 가능성의 저하가 동시에 확인된 점이 특징이다. 사이버 공격으로의 응용 능력이 높아지면서 그 내부 움직임이 보이기 어려워진다는 조합은 안전 관리 방식에 새로운 질문을 던진다.

인공지능 업계 전체에서 「프론티어 모델」의 안전 평가에 대한 관심이 높아지는 가운데, 이번 OpenAI가 자사 모델에 최고 위험 등급을 적용한 것은 평가 과정의 투명성이라는 의미에서 일정 수준의 평가를 할 수 있다. 하지만 동시에 그 모델을 어떤 조건 하에서 공개·운영할 것인가라는 질문이 그 어느 때보다도 중요해진다는 관점이 있다. 앞으로는 Critical로 분류된 모델에 대해 어떤 안전 대책과 접근 제한이 실시될 것인가가 주목할 초점이 될 것이다.