Anthropic의 AI, 암호 기술의 취약점 발견

Anthropic이 개발한 AI 모델 'Claude Mythos Preview'가 인터넷의 보안을 지탱하는 암호 알고리즘의 취약점을 발견했다. 대상이 된 것은 'HAWK'라고 불리는 알고리즘으로, 양자 컴퓨터의 공격에도 견딜 수 있도록 설계된 차세대 서명 방식이다. 인간 전문가가 2년 이상에 걸쳐 안전성을 검증해왔음에도 불구하고, AI는 약 60시간 만에 보다 효과적인 공격 기법을 찾아냈다.

'HAWK'와 같은 '포스트양자암호'는 미래의 양자 컴퓨터에 의한 해독을 방지하기 위해 개발이 진행 중인 암호 기술의 총칭이다. 현재 인터넷에서 널리 사용되는 암호는 양자 컴퓨터가 실용화되면 이론상 깨질 가능성이 있다고 알려져 있으며, 전 세계의 연구 기관과 표준화 단체가 그 후속 기술의 정비를 서두르고 있다. HAWK도 그 후보 중 하나로서 전문가 커뮤니티에 의한 장기적인 검토를 거쳐왔던 것이다.

이번 분석에 소요된 비용은 API 이용료로 약 10만 달러(일본 엔화로 약 1500만 엔)였다. 인간 전문가 팀이 2년 이상에 걸쳐 놓친 문제를 AI가 수십만 엔 규모의 비용과 60시간이라는 짧은 시간에 발견한 것이다. Anthropic은 이번 발견이 현재 가동 중인 시스템에는 직접적인 영향을 주지 않는다고 설명했다.

다만 이 결과가 갖는 의미는 적지 않다. 암호 기술의 안전성 평가는 지금까지 고도로 전문적인 인간의 지식에 의존해온 분야였다. 그 전제에 대해 AI가 새로운 역할을 할 수 있음을 보여주는 사례로 위치 지어진다. Anthropic은 이번 발견을 토대로 AI가 인터넷 보안의 근간에 있는 전제를 다시 문제 삼을 가능성이 있다고 언급했다.

한편 이런 종류의 능력은 공격에도 방어에도 사용할 수 있다는 양의성을 가진다. 암호의 취약점을 찾는 작업은 종래에는 안전성을 높이기 위한 '레드팀 활동'으로서 수행되어왔다. AI가 그 작업을 저비용으로 고속화할 수 있다면, 보안 연구의 방식뿐 아니라 암호 표준을 검토·책정하는 프로세스 전체를 재검토하는 논의로 이어질 수 있다는 견해가 있다.

현 시점에서 밝혀진 것은 HAWK라는 특정 알고리즘에 대한 공격 기법이 개선되었다는 사실이며, 다른 포스트양자암호 알고리즘에 대한 영향은 이번 보고에서는 확인할 수 없다. 또한 발견된 취약점의 구체적인 내용과 심각도에 대해서도 현 시점에서는 상세가 명확히 드러나지 않았다. 향후 암호 연구 커뮤니티에 의한 검증과 대응의 추이가 주목되는 바이다.

AI에 의한 보안 연구의 가속화는 기술적인 이점을 가져올 가능성이 있는 한편, 동일한 능력이 악의적 목적으로 악용될 위험도 동시에 높아진다는 구조적 과제를 안고 있다. 이번 사례는 AI 개발 기업이 자사 모델의 능력을 책임 있는 형태로 어떻게 공개하고, 업계 전체가 어떻게 대처할지라는 문제를 다시금 제기하고 있다고 할 수 있을 것이다.