수학자 42명, AI 존재 위험을 공개 서한으로 경고

영국왕립학회(Royal Society)의 펠로우 42명이 인공지능이 초래하는 존재 위험에 관한 공개 서한에 연서명했다. 서명자에는 수학의 최고 상이라 불리는 필즈상 수상자인 Martin Hairer와 Peter Scholze가 포함되어 있으며, 세계 최고 수준의 수학자들이 일치된 우려를 보이는 형태가 되었다.

서한이 지적하는 근거 중 하나는 최신 AI 모델이 보인 문제해결 능력의 급속한 향상이다. 지금까지 미해결로 알려져 있던 수학 연구 과제가 AI에 의해 수개월 내에 풀리게 되었다는 것이다. 이러한 능력은 순수한 학술 연구 가속화라는 측면뿐만 아니라, 사이버 공격이나 생물 무기 개발 분야에도 동일하게 응용할 수 있다는 점이 서한의 핵심 우려다.

서한은 더욱이 사회가 이 상황의 심각성을 충분히 이해할 무렵에는 적절한 대처가 어려워져 있을 가능성이 있다고 언급하고 있다. 즉, 문제에 대한 인식이 확산되는 속도보다 기술의 진화와 영향 확대가 더 빠르다는 평가다. 이러한 시간차이야말로 전문가들이 공개라는 형식을 선택해 목소리를 낸 이유 중 하나로 생각할 수 있다.

배경으로 주목할 점은 이러한 경고가 수학자라는 입장에서 발해지고 있다는 것의 무게감이다. AI 위험을 둘러싼 논의는 지금까지 주로 AI 연구자, 윤리학자, 정책 입안자들 사이에서 전개되어 왔다. 이번에 순수 수학의 최전선에 있는 연구자들이 서명한 것은, 우려가 특정 커뮤니티에만 국한되지 않은 확산을 가지고 있음을 보여주는 것으로 자리매김할 수 있다.

AI의 능력이 수학적인 난제를 풀 정도로 고도화되었다는 사실은 그 능력의 '범용성'을 다시 한 번 부각시킨다. 어떤 문제를 푸기 위한 추론 능력은 문제의 종류를 가리지 않는다. 사이버 보안의 취약점을 돌파하는 방법의 탐색이나 생물학적 위협의 설계 지원에 전용될 위험은 순수히 기술적 관점에서도 부정하기 어렵다. 서한이 제시한 구체적 사례는 AI 능력의 진화를 학술적 문맥 내에서만 논할 수 있다는 한계를 보여주고 있다고 할 수 있다.

앞으로 주목할 점은 이러한 성명이 정책 및 규제 논의에 어떻게 영향을 미칠 것인가다. 과학 커뮤니티의 저명한 연구자들이 연서명으로 경고를 발했기에, 각국 정부나 국제 기구가 AI의 위험 관리에 관한 구체적인 틀을 검토할 때 하나의 근거가 될 수 있다. 우려 표명에 그치지 않고, 어떤 대응책이 제안·논의되어 가는지를 추적하는 것이 다음 단계로서 중요하다고 생각된다.