Tencent AI 책임자, 인공지능과 생물무기 위험 경고

Tencent의 최고 인공지능 과학자 Vinces Yao Shunyu가 인공지능이 가까운 미래에 생물무기 개발을 가능하게 할 위험성을 경고했다. 동 인물은 이러한 위험에 대한 대응책으로서 인공지능 모델을 완전히 비공개로 하는 것이 아니라, 공개와 폐쇄의 중간적인 접근 방식이 필요하다고 주장하고 있다.

인공지능의 안전성을 둘러싼 논의에서는 모델을 일반에 공개해야 하는지, 기업이 계속 관리해야 하는지에 대한 대립이 계속되고 있다. 오픈소스(누구나 이용·변경할 수 있는 공개형) 모델은 안전 필터가 마련되어 있지만, '부리타레이션(abliteration)'이라고 불리는 기법으로 비교적 쉽게 제거할 수 있다는 것이 알려져 있다. 한편, Anthropic의 'Claude'처럼 비공개로 운영되는 모델은 안전상의 우려가 있는 문의에 대해 과도하게 제한을 가하는 경우가 많다고 Yao 씨는 지적한다.

이러한 과제를 받아 Tencent는 독자적인 접근 방식을 취하려고 하고 있다. 동사가 개발 중인 오픈웨이트(모델의 가중치를 공개하는 형식) 모델 'Hy4'에서는 안전 필터를 나중에 덧붙이는 것이 아니라, 위험한 해킹 지식을 학습 데이터 단계에서부터 제외하는 방침을 채택하고 있다. 이른바 모델이 배우는 '교과서' 자체에서 해로운 지식을 제거한다는 생각이다.

이 방법은 현재 주류의 안전 대책과는 근본적으로 다르다. 많은 모델은 학습 후에 필터를 추가하는 형태로 안전성을 보장하려고 하지만, 앞서 언급한 부리타레이션과 같은 기법으로 그 필터를 우회당할 위험이 있다. 이에 대해 학습 데이터 자체를 제어하는 접근 방식은 필터를 '나중에 떼어내기'를 어렵게 한다는 점에서 더욱 근본적인 대책으로 위치 지어진다.

인공지능과 생물무기의 결합은 안보 전문가와 연구자 사이에서 오래전부터 우려되어 온 주제다. 인공지능이 고도의 과학적 지식을 학습·생성할 수 있게 되면서, 위험한 생물학적 물질의 합성 절차 등을 실수로 또는 의도적으로 제공해버릴 위험성이 현실성을 띠고 있다. 대형 인공지능 기업이 이 문제를 어떻게 다루는지는 기술 개발의 윤리적 틀을 좌우하는 중요한 질문이기도 하다.

Tencent의 Yao 씨의 발언은 인공지능의 안전성 논의에 '개방 또는 폐쇄'의 이분법이 아닌, 설계 단계에서부터 위험을 제어한다는 제3의 관점을 제시한 것으로 볼 수 있다. 향후 Hy4의 공개 후에 그 접근 방식이 실제로 얼마나 효과적인지가 문제가 될 것이다. 인공지능 모델의 안전 설계에 있어 실천적인 사례로서 업계 내외에서 주목을 받을 것으로 보인다.