OpenAI, 사이버 공격 위험을 이유로 모델 개발을 의도적으로 억제

OpenAI는 인공지능 모델의 개발 속도를 의도적으로 낮추고 있다는 점을 밝혔다. 그 배경에는 개발 중인 모델이 사이버 공격에 악용될 수 있을 정도의 위험한 능력을 갖기 시작했다는 우려가 있다. 동사는 안전성 확보를 우선시하여 출시 속도를 조정하기로 결정했다.

인공지능의 성능이 급속도로 향상되는 가운데, 모델이 지닌 '능력의 위험성'은 인공지능 개발자가 공통적으로 직면하는 과제가 되고 있다. 특히 코드를 자율적으로 생성·실행하거나 시스템의 취약점을 발견하는 능력은 사이버 공격 도구로 악용될 우려가 있다. 이러한 위험은 모델의 성능이 높아질수록 심각성이 증가하는 경향을 보이고 있으며, 업계 전체의 대응이 요구되어 왔다.

OpenAI가 구체적으로 언급한 것은 개발 중인 'Astra'라는 모델이다. 동사에 따르면 이 모델은 사이버 공격과 직결될 수 있는 중요한 능력의 수준에 접근하고 있다고 한다. 이러한 상황에 대응하여 동사는 개발 속도를 '페이싱(단계적 조정)'이라고 표현하며 의도적으로 통제하고 있다고 설명했다.

안전 대책 측면에서는 새로운 감시 시스템도 도입되었다. 모델이 의심스러운 동작을 보일 경우 30분 이내에 경고가 발생하는 체계다. 이를 통해 문제가 되는 거동을 조기에 감지하고 대응할 수 있는 체계를 갖추었다고 밝혔다.

이번 조치가 갖는 의미는 단순한 안전 대책의 강화에 그치지 않는다는 견해가 가능하다. 지금까지 인공지능 개발은 '더 빠르게, 더 고성능으로'라는 경쟁 원리가 우선되곤 했으나, OpenAI가 공식적으로 개발 속도를 낮춘다고 인정한 것은 업계의 문화적 전환점으로 위치지을 수 있을 것이다. 위험의 크기가 개발 속도보다 우선된다는 판단을 주요 플레이어가 명시한 셈이다.

한편 '어느 수준에 도달하면 위험한 것으로 볼 것인가'라는 기준은 아직 업계 전체에서 통일되어 있지 않다. OpenAI가 자사 기준으로 페이싱을 판단하고 있는 현황은 투명성과 제3자에 의한 평가의 중요성을 다시금 부각시키고 있다. 향후 이러한 안전 평가 체계를 어떻게 정비하고 업계를 통해 공유할 것인가가 문제되는 국면에 접어들고 있다고 할 수 있을 것이다.