EU의 AI 규제, 합성 콘텐츠에 대한 전자 서명 의무화

EU의 AI 규제법(AI Act) 제50조가 2026년 8월 2일부터 적용되며, AI systems가 생성한 합성 콘텐츠에는 기계가 검출 가능한 형태의 식별 마킹이 의무화되었다. 이에 따라 최첨단 대규모 AI 모델을 개발·제공하는 주요 사업자들은 전자 서명 기술 구현을 진행 중이다.

합성 콘텐츠에 대한 마킹 의무의 목적은 AI가 생성한 문장, 이미지, 음성 등과 인간이 작성한 콘텐츠를 구별할 수 있도록 하는 것이다. 가짜뉴스와 딥페이크에 대한 우려가 증가하는 가운데, EU 역내에서 유통되는 콘텐츠의 투명성을 확보하려는 움직임이 입법으로 이어진 것으로 평가된다. AI Act는 그러한 맥락에서 제정된 포괄적인 AI 규제 체계이며, 제50조는 특히 콘텐츠 투명성에 초점을 맞춘 조항이다.

주요 사업자들이 채용하는 것은 '통계적 전자 서명(statistical watermarking)'이라 불리는 기법이다. 이는 자연언어 생성 프로세스에 통계적 패턴을 내장하는 기술이며, 출력되는 텍스트의 품질이나 성능에는 영향을 미치지 않는다고 알려져 있다. 즉, 사용자 입장에서는 사용 편의성이 그대로 유지되면서 기계 쪽에서는 서명을 검출할 수 있는 구조다.

한편, 오픈소스 커뮤니티는 이러한 움직임에 빠르게 반응하고 있다. 오픈소스 AI 모델은 그 특성상 누구나 내부를 수정할 수 있기 때문에, 서명을 제거하거나 회피하는 기법이 쉽게 생겨난다. 이로 인해 준수의 실효성과 서명 기술 자체의 취약성에 관한 우려가 제기되고 있다.

이 문제가 중요한 이유 중 하나는 전자 서명이 법적으로 '의무'로 위치지어진 점이다. 지금까지 전자 서명은 자발적 활동에 머물러 있었으나, EU의 법 규제로 명문화됨으로써 유럽 시장에 진출하는 모든 AI 사업자가 대응을 강요받게 된다. 특히 전 지구적으로 사업을 전개하는 대형 사업자들에게는 상품 설계 단계부터 준수를 포함시킬 필요가 생긴다.

오픈소스 모델에 대한 대응이라는 관점에서는 앞으로도 논의가 계속될 것으로 보인다. 폐쇄형 시스템과 달리, 오픈소스에서는 서명의 유효성을 보장하는 메커니즘을 정비하는 것이 기술적으로 어렵고, 규제의 적용 범위나 실행 방식을 둘러싼 세부적인 검토가 요구되는 상황이다. EU 당국과 오픈소스 커뮤니티 사이에서 어떤 착지점이 발견되는지가 향후 주목할 점이라 할 수 있다.

AI 생성 콘텐츠의 식별 기술은 신뢰할 수 있는 정보 환경을 유지하는 데 필수적인 기반시설이 되어 가고 있다는 관점을 가질 수 있다. EU의 규제가 하나의 모범 사례가 되어 다른 지역의 규제 논의에도 영향을 미칠 가능성이 있다. 전자 서명의 보급과 그것을 우회하려는 기술의 경쟁이 어떻게 전개되는지는 생성 AI 전체의 신뢰성 문제와도 깊이 맺어져 있다.