Anthropic의 인공지능 워터마크, 구형 모델의 허점

Anthropic은 텍스트에 내장하는 전자 워터마크 기능을 새로운 4개의 Claude 모델로 확대했다. 이 대응은 유럽연합 인공지능법이 정한 12월 기한에 맞추기 위한 조치이지만, 구형 모델인 Claude Opus 4.6과 Sonnet 4.6에서는 개발자가 매개변수 하나만 조정하면 워터마크를 우회할 수 있는 상태가 되어 있음이 드러났다.

원래 인공지능 생성 텍스트에 대한 워터마크 삽입은 인공지능이 만든 문장임을 식별하기 쉽게 하기 위한 기술이다. 유럽연합이 시행을 추진 중인 인공지능법에서는 이러한 식별 조치를 제공자 측이 강구할 것을 요구하고 있으며, Anthropic의 이번 확대는 그 요건에 대한 대응으로 위치지어진다. 규제 마감 기한이 연말로 다가오는 가운데 주요 인공지능 기업들이 차례대로 대응을 진행하고 있는 흐름의 일환이기도 하다.

문제가 되는 것은 구세대 2개 모델에서의 기술적 허점이다. 생성 텍스트의 샘플링 설정(다음 단어를 어떻게 선택할지를 제어하는 매개변수)을 바꾸기만 하면 워터마크가 작동하지 않게 된다. 즉 워터마크의 유무를 이용자 측이 어느 정도 제어할 수 있게 되어 있다.

Anthropic은 이 문제에 대해 준수 경고를 발하는 것에만 그치고 있으며, 기술적 수정이나 제한은 아직 실시하지 않고 있다. 경고를 통해 규제상의 설명책임을 이행하는 형태는 취하고 있지만, 허점 자체가 막혀 있지는 않다.

이 상황이 보여주는 것은 규제에 대한 형식적 대응과 실질적 대응 사이의 간극이다. 워터마크 기능을 탑재하고 있다는 것 자체는 사실이지만, 그것이 쉽게 우회 가능하다면 인공지능 생성 콘텐츠 식별이라는 본래의 목적을 충분히 달성할 수 없다. 규제 당국이 어느 정도 수준의 기술적 견고성을 요구할지는 앞으로의 운영 지침과 집행 자세에 따라 좌우될 것으로 보인다.

또한 구형 모델과 신형 모델에서 대응 수준이 다르다는 점도 간과할 수 없다. 기업은 비용 측면이나 호환성의 편의상 구형 모델을 계속 사용하는 경우가 있으며, 규제 대응의 실효성은 모델 전체에서 균일하게 보장되어야 의미를 갖는다. Anthropic이 앞으로 구형 모델의 허점을 기술적으로 수정할지 여부가 실질적 대응 자세를 측정하는 지표가 될 것이라는 견해가 가능하다.

유럽연합 인공지능법의 12월 기한이 다가오는 가운데, 워터마크 기술의 구현뿐만 아니라 그 견고성과 검증 가능성이 문제 제기되는 국면이 계속될 것으로 예상된다. 이번 사례는 규제 대응의 어려움을 구체적인 형태로 보여준 사례로서 업계 전체가 참고할 사례가 될 가능성이 있다.