OpenAI, 보안 우려로 신규 모델 개발 속도 둔화

OpenAI는 개발 중인 신규 인공지능 모델이 사내에서 정한 "사이버보안의 중대 기준값"에 도달했다고 판단하여, 그 모델의 개발 속도를 의도적으로 낮췄다고 밝혔다. 이 기준값이란 인공지능이 기존에는 강력한 보안으로 지켜지고 있다고 여겨졌던 실제 환경의 시스템에 대해, 인간의 지시 없이 자율적으로 사이버 공격을 식별·실행할 수 있는 능력을 의미한다.

인공지능의 능력이 어디까지 향상되었는지를 평가하는 체계는 "안전성 평가"라고 불리며, 많은 인공지능 기업들이 모델의 출시 여부를 판단하기 위한 기준으로 활용하고 있다. OpenAI도 독자적인 평가 기준을 설정하고 있으며, 이번에는 그 기준을 모델이 초과했다고 하여 통상적인 개발 프로세스에서 벗어난 판단을 내린 것이다. 이는 기업이 자발적으로 브레이크를 밟았다는 점에서 인공지능 안전 관리의 실천 사례로 위치지을 수 있다.

문제의 모델은 "Astra"로 알려져 있으며, 현재 시점에도 여전히 개발 단계에 있다. 구체적으로 어떤 평가 테스트에 의해 기준값 초과가 확인되었는지, 또는 향후 언제 개발이 재개될 전망인지 등의 상세 내용은 현 시점에서 공표되지 않았다. OpenAI가 공식적으로 확인한 것은 모델이 중대 기준값에 도달했다는 사실과 그에 따라 개발을 둔화시켰다는 사실뿐이다.

이 움직임이 보여주는 것은 인공지능의 자율적 사이버 공격 능력이 더 이상 이론적 위험이 아니라 실제 개발 현장에서 대처가 요구되는 단계에 진입하고 있다는 상황이다. 인공지능이 고도화되면 악의적인 이용자에게 넘어갔을 경우의 위험도 커진다. 이러한 배경에서 개발자 측이 사전에 "어느 정도까지라면 출시해도 좋은가"를 정하는 체계의 중요성이 업계 전체에서 다시금 문제가 되고 있다고 볼 수 있다.

인공지능의 보안 위험을 둘러싸고는 각국 정부와 연구기관도 관심을 높이고 있으며, 인공지능 모델의 능력 평가 및 정보 공개 방식에 대한 논의가 계속되고 있다. OpenAI 같은 주요 플레이어가 자사 모델의 능력을 자발적으로 평가하고 그 결과를 바탕으로 개발을 조정하는 태도는 이러한 업계·정책의 흐름과 궤를 같이하는 것으로 위치지을 수 있다. 다만 이번 판단이 어떤 기준에 따라 이루어졌으며 제3자에 의한 검증이 가능한지 여부는 현 시점에서 명확하지 않다.

향후 주목할 점은 OpenAI가 개발 재개 조건을 어떻게 설정하고 이를 어디까지 공개할 것인가 하는 부분이다. 자발적인 안전 평가가 실효성을 갖기 위해서는 기준의 투명성과 외부로부터의 검증 가능성이 필수적이라고 볼 수 있다. 이번 사례는 인공지능의 능력 향상과 안전 관리의 균형을 어떻게 잡을 것인가라는 업계 공통의 질문에 대한 하나의 실천 사례로서 널리 참조될 가능성이 있다.