Anthropic, Claude Code의 숨겨진 감시 기능 삭제 예정

Anthropic은 프로그래밍 지원 도구 'Claude Code'에 은폐된 상태로 내장되어 있던 감시 기능을 삭제하겠다고 발표했다. 이 기능은 특정 사용자를 대상으로 은폐된 상태에서 식별 및 표시를 수행하는 것으로 알려져 있으며, 소셜 미디어상에서 강한 비판을 받은 것이 삭제의 직접적인 계기가 되었다.

Claude Code는 Anthropic이 제공하는 인공지능을 활용한 코딩 지원 도구로, 개발자가 코드 생성이나 수정을 인공지능과 대화하면서 진행할 수 있는 서비스다. 소프트웨어 개발 현장에서 널리 사용되는 이러한 도구는 사용자의 작업 내용이나 입력 데이터에 직접 접근하는 특성상, 개인정보 보호에 대한 배려가 특히 요구되는 분야에 있다.

이번에 문제가 된 것은 도구의 코드 내에 '숨겨진' 상태로 존재하던 감시적 처리로, 중국어 사용자를 대상으로 표시를 하는 동작을 하고 있었다고 보도되었다. 이러한 동작은 사용자에게 사전 설명이나 동의 없이 수행되었던 것으로 알려져 있으며, 그 불투명함이 온라인상의 비판 확대로 이어졌다. Anthropic은 이후 이 기능을 삭제하는 방침을 명확히 했다.

인공지능 도구에 대한 신뢰는 성능의 높이만이 아니라 개발자가 얼마나 투명성을 가지고 운영하는지에 의해서도 크게 좌우된다. 특정 국가나 언어의 사용자를 다른 사용자와는 다른 방식으로 취급하는 메커니즘이 사용자 모르게 작동하고 있었다는 사실은 인공지능 서비스 전체의 거버넌스의 방식을 다시 문제 삼는 사건으로 자리매김된다.

근년 생성 인공지능 도구의 보급에 따라 각국의 규제 당국이나 사용자 커뮤니티는 인공지능 기업에 의한 데이터 수집이나 이용자의 취급에 대해 엄격한 시선을 보내고 있다. 이러한 배경 속에서 발생한 이번 일은 기업이 의도한 목적과 관계없이 사용자의 속성에 기반한 비공개 처리가 적발되었을 경우 얼마나 큰 반발을 초래하는지를 보여주는 사례라고 할 수 있다.

앞으로 주목할 점은 Anthropic이 기능 삭제에 그치지 않고 사용자에 대한 설명 책임을 어떻게 이행하는지이다. 삭제의 이유와 기능의 목적, 수집·처리된 데이터의 취급에 관해 투명성 있는 정보 공개가 이루어지는지 여부가 사용자의 신뢰 회복과 직결된다고 여겨진다. 인공지능 도구가 개발자의 일상 업무에 깊이 들어오는 가운데, 기업 측의 설명 책임에 대한 문제 제기는 앞으로도 계속될 것이다.