정부 명령으로 Anthropic이 AI 모델에 대한 접근 완전 차단

Anthropic은 금요일 밤 정부의 명령을 받아 자사의 AI 모델 'Fable 5'와 'Mythos 5'에 대한 해외로부터의 접근을 완전히 차단했다. 이 조치는 미국 국내외를 막론하고 모든 외국 사용자를 대상으로 하며, 놀랍게도 Anthropic의 직원들도 예외가 아니었다. 정부는 이 명령을 '국가안보 우려'를 이유로 내렸다고 알려졌으나, 회사는 그 세부사항을 알지 못한 채 대응을 강요받은 상황이다.

Anthropic이 발표한 성명서에서 회사는 정부의 명령에 따르면서도 정부가 '국가안보 우려에 대한 구체적인 세부사항을 제공하지 않았다'고 밝혔다. 이는 이례적인 상황이라고 할 수 있다. 일반적으로 기업이 이 정도 수준의 제한 조치를 취할 경우 그 근거가 되는 정보가 공유되는 경우가 많기 때문이다.

더욱이 회사에 따르면 잠재적인 탈옥(AI의 안전 제한을 우회하는 공격 기법)에 관한 증거는 구두로만 제시되었다고 한다. 서면이나 구체적인 데이터가 제시되지 않은 채 모델의 취약점이 지적된 것이다. 추가로 Anthropic은 발견된 것으로 알려진 취약점은 '경미한 것'이며, 다른 모델에도 유사한 문제가 존재한다고 주장하고 있다.

이번 조치로 인해 Fable 5와 Mythos 5는 사실상 모든 고객에게 접근 불가능한 상태가 되었다. 부분적인 제한에 그치지 않고 완전 차단이라는 강경 수단이 취해진 배경에는 정부 요청의 강력함이 엿보인다. 한편 외국 사용자뿐만 아니라 자사 직원까지 대상에 포함시켜야 했던 점은 명령의 범위의 광범위함을 보여준다.

AI 기술을 둘러싼 안보 우려는 최근 급속도로 높아지고 있으며, 선진적인 대규모 언어 모델이 수출 규제 및 국가안보 정책의 대상이 되는 흐름이 가속화되고 있다. 이번 사건은 AI 모델 자체가 '안보상의 자산'으로 취급되는 시대의 도래를 다시 한번 인상 깊게 보여준다. Anthropic이 앞으로 어떤 형태로 정부와의 협의를 진행하고 접근 제한을 해제할 수 있을지가 주목된다.