Anthropic의 AI 개발 가속화, 자체 경고 수준을 초과했을 가능성

비영리단체 METR의 11주간 조사에서 Anthropic의 사내 연구 자료를 분석한 결과, 동사의 모델 개발 속도가 약 2배로 가속화되고 있음이 드러났다. 그 가속화의 약 80%는 AI가 연구 프로세스 자체를 보조함으로써 발생하고 있다는 것이다.

Anthropic은 지금까지 AI 개발의 가속도가 일정 수준을 넘을 경우 특별한 대응을 취한다는 방침을 사내에서 설정하고 있다고 알려져 왔다. METR의 조사는 그 경고 수준을 이미 7월 시점에서 초과했을 가능성을 보여주는 것이며, 업계 내외에서 주목을 받고 있다. AI가 자신의 연구를 가속시키는 '재귀적 자기 개선'에 가까운 상황은 AI 안전성 논의에서 오래도록 지적되어온 위험 중 하나로 자리매김된다.

한편 이번 조사 결과에는 중요한 한계가 있다. Anthropic은 증거력이 가장 높은 자료를 비공개(검은색으로 가림)로 두고 있으며, METR은 조사 보고서에서 공개 정보만으로는 본래보다도 METR 자신의 판단에 '불필요하게 의존할 수밖에 없는' 상황이라고 인정했다. 즉, 조사의 근거가 된 자료의 핵심 부분을 외부가 검증할 수 없는 상태에 있다는 뜻이다.

더욱이 Anthropic 사내에도 이번 평가에 회의적인 목소리가 있음이 드러났다. 개발 가속화의 해석이나 측정 방법에 이의가 있는 것으로 보이며, 조사 결과가 사내에서 일관된 합의를 얻고 있지 않다는 것이다. 제삼자 평가와 기업 내부 견해가 어긋나는 구도는 AI 안전성 평가에 있어 투명성 확보가 얼마나 어려운지를 보여주고 있다.

배경으로 짚고 넘어가야 할 점은 METR이 수행하고 있는 역할이다. 동 단체는 AI 시스템의 위험 평가를 전문으로 하는 독립 기관이며, 주요 AI 기업의 개발 현황을 외부에서 감시하는 몇 안 되는 조직 중 하나로 자리매김된다. 이러한 제삼자 감시는 기업이 자사에 불리한 정보를 공개하기 어려운 구조적 문제를 보완하기 위해 중요한 의미를 지닌다.

이번 사건이 보여주는 본질적 문제는 AI 개발의 투명성을 둘러싼 구조적 과제에 있다. 기업이 중요 자료를 비공개로 둔 채 외부 감시를 받아들여도, 그 평가의 신뢰성에는 필연적으로 한계가 생긴다. AI의 개발 속도가 가속화되는 중에서, 어느 정도 수준의 정보를 공개하고 누가 어떻게 검증할 것인지 하는 틀을 만드는 것이, 향후 중요한 초점이 된다고 볼 수 있다.

AI가 자신의 연구를 가속시키는 순환이 실제로 진행되고 있다면, 외부로부터의 감시가 실효성을 지니기 위해서는 더욱 깊이 있는 정보 공개의 규칙이 요구된다. 이번 조사는 현 시점의 감시 체제가 지니는 한계를 명확히 보여준 사례로서, 규제나 정책 논의에도 영향을 미칠 가능성이 있다.