OpenAI의 안전 감시, 최대 25%가 미감시 상태로 판명

외부 감시 기관인 METR과 Redwood Research의 조사를 통해 OpenAI의 AI 에이전트 감시 체계에 중대한 결함이 있음이 드러났다. 두 기관은 OpenAI 사무실에 3주간 머물면서 내부 시스템을 조사한 결과, GPT-5.5 클래스 이상의 모델에서 에이전트의 트래픽(통신·처리의 흐름) 중 최대 25%가 감시 대상 밖에 있음을 확인했다.

AI 에이전트란 사람이 일일이 지시하지 않아도 목표가 주어지면 자율적으로 작업을 수행하는 AI 시스템을 의미한다. 웹 검색, 코드 실행, 외부 도구 조작 등 다양한 행동을 AI 스스로 판단하여 수행하기 때문에, 그 행동을 파악하고 관리하는 것은 안전성 관점에서 특히 중요한 것으로 간주된다. OpenAI가 개발하는 GPT-5.5 클래스 이상의 모델은 현재 동사가 제공하는 것 중에서도 고성능에 속하는 것으로 평가되며, 더욱 복잡한 작업에의 활용이 확대되고 있다.

이번 감시 결과는 61페이지에 이르는 보고서로 작성되었으나, OpenAI는 대부분을 비공개로 처리했다. 현재 일반에 공개되어 있는 것은 개요뿐이며, 보고서의 세부 내용은 확인할 수 없는 상태이다. 감시를 실시한 METR과 Redwood Research는 모두 AI 안전성 평가를 전문으로 하는 외부 기관이다.

AI의 안전성을 둘러싸고는 개발 기업이 자사 모델의 행동을 얼마나 정확하게 파악하고 제어할 수 있는가가 업계 전체의 신뢰성과 직결되는 문제로 위치 지어진다. 특히 에이전트형 AI는 자율적으로 행동하는 성질상 예기치 않은 동작이 발생했을 경우의 위험이 크며, 감시의 망눈으로부터 빠져나가는 트래픽이 존재한다는 사실은 안전 관리 체계의 실태를 재검토하게 하는 계기가 될 수 있다.

보고서의 대부분이 비공개 처리된 점도 별개의 문제로 주목된다. 외부 감시는 본래 제3자의 관점에서 문제점을 사회에 제시하는 데 의의가 있으나, 공개 범위가 제한되면 검증의 유효성 자체에 대한 의문이 생기기 쉽다. 일반에 공개되어 있는 정보가 개요에 그치는 한, 감시에서 어떠한 세부 사항이 확인되었으며 어떠한 개선이 요구되었는지를 외부에서 평가할 수단은 현 상황에서는 제한적이다.

향후의 초점은 OpenAI가 이번 지적을 받아 감시 체계를 어떻게 개선할 것인지, 그리고 그 개선 상황을 어느 정도의 투명성을 가지고 공개할 것인지라는 점으로 옮겨질 것으로 예상된다. AI 에이전트의 사회 실장이 가속화되는 가운데, 개발 기업의 안전 감시 체계의 방식과 외부 감시의 실효성을 어떻게 보장할 것인가는 업계 전체가 마주해야 할 과제라고 볼 수 있다.