Anthropic의 AI 워터마크, 구형 모델에서 쉽게 무효화

Anthropic은 EU AI법이 정한 12월 기한을 앞두고 4개의 Claude 모델에 텍스트 워터마크 기능을 추가 배포한다고 밝혔다. 텍스트 워터마크는 인공지능이 생성한 문장에 인간의 눈에는 보이지 않는 식별 정보를 삽입하는 기술로, 인공지능 생성 콘텐츠의 탐지와 추적을 가능하게 하는 메커니즘이다.

EU AI법은 인공지능이 생성한 콘텐츠에 대해 일정한 식별 조치를 의무화하는 것이며, 각 인공지능 기업은 연내 대응을 강요받고 있다. Anthropic이 이번 배포를 진행하는 배경에는 이러한 규제상의 기한 대응이라는 명확한 동기가 있다. 텍스트 워터마크의 도입은 인공지능 생성 콘텐츠의 투명성 확보를 요구하는 규제 흐름에 부응하는 움직임으로 자리매김된다.

그러나 이번 배포에는 심각한 문제가 확인되었다. Claude Opus 4.6이나 Claude Sonnet 4.6 같은 구세대 모델에서는 API를 통해 이용할 때 '샘플링 파라미터'라 불리는 출력 조정 설정 1개를 변경하는 것만으로 워터마크 기능을 무효화할 수 있음이 드러났다. API란 개발자가 Claude를 프로그램에서 직접 조작하기 위한 연결 통로이며, 일반 사용자보다 기술적으로 세부 제어가 가능한 이용 경로에 해당한다.

이 허점에 대한 Anthropic의 대응은 기술적 수정이 아니라 '규정 준수 경고' 발표에 그쳤다. 즉, 이용약관이나 사용 정책상의 주의 환기로 대처하는 방침을 선택한 형태다. 기술적으로 차단하는 대신 규약 차원의 견제에 그치는 이러한 대응은 실효성 관점에서 의문을 제기할 여지도 있다.

이 문제가 보여주는 것은 워터마크 기술 자체의 한계다. 샘플링 파라미터 같은 출력 제어 설정을 통해 회피할 수 있다면, 기술적인 우회 수단이 계속 존재하게 되며, 규제 대응 수단으로서 충분한지가 문제가 된다. 특히 API를 통한 개발자·사업자의 이용은 엔드유저 인터페이스보다 제어의 자유도가 높아서, 워터마크의 실효성을 유지하기 어려운 구조적 과제가 있다.

EU AI법의 시행을 앞두고 각 인공지능 제공자가 어떻게 기술적·제도적 대응을 정비할지는 업계 전체에 공통하는 과제가 되고 있다. 이번 같은 허점의 존재는 워터마크 기술이 규제 준수 수단으로서 기능하기 위해서는 기술 사양과 운영 규칙 양면에서의 정비가 요구됨을 다시 한 번 보여주는 사례라 할 수 있다. 향후 구형 모델에 대한 기술적 수정이 이루어질지, 아니면 규약 차원의 대응으로 사실상의 준수로 간주될지가 주목점이 된다.