Claude의 공유 채팅이 Google 검색에 노출

Anthropic의 채팅 서비스 「Claude」에서 사용자가 공유한 대화 기록이 일시적으로 Google 검색 결과에 표시되는 상태가 되었다. 원인은 공유 페이지에 검색 엔진의 색인 등록을 방지하는 「noindex 태그」가 설정되지 않았기 때문이다. 본래라면 제3자의 눈에 띄지 않아야 할 대화 내용이 검색을 통해 누구나 열람할 수 있는 상태에 놓여 있었던 것이다.

「noindex 태그」란 웹페이지를 검색 엔진의 데이터베이스(인덱스)에 등록하지 않도록 지시하는 HTML상의 설정을 말한다. 이 태그가 부재하면 검색 엔진의 크롤러(정보를 자동으로 수집하는 프로그램)가 해당 페이지를 읽어들이고 검색 결과에 게재하게 된다. 공유 기능 자체에 문제가 있었던 것이 아니라 페이지의 설정 미흡이 오늘의 노출을 초래했다는 점이 중요하다.

사용자들의 보도에 따르면 검색 결과에 나타난 공유 채팅 중에는 암호자산(가상화폐)과 관련된 키나 법률상의 질문을 포함한 대화도 확인되었다. 두 경우 모두 본래는 외부에 공개될 것을 상정하지 않은 정보라고 할 수 있다. 노출이 확인되었던 기간이나 영향을 받은 채팅의 건수에 대해서는 현 시점에서는 명확해지지 않았다.

유사한 문제는 이미 선례가 있다. OpenAI도 지난해 동일한 설정 실수를 경험했으며, 공유된 ChatGPT의 대화가 검색 엔진에 표시되는 사태가 발생했었다. 즉 오늘의 Anthropic의 문제는 업계 전체에서 반복될 수 있는 실수라는 견해도 있을 수 있다.

이 사건이 보여주는 것은 AI 채팅 서비스의 「공유 기능」이 가진 위험성의 크기다. 사용자는 경쾌하게 대화를 공유할 수 있는 한편, 그 공개 범위의 제어는 서비스 측의 설정에 완전히 위임되어 있다. 설정의 미흡이 하나만 있어도 프라이버시와 관련된 정보가 의도하지 않게 광범위하게 공개될 위험이 있다는 구조적 문제가 여기에 떠오른다.

AI 채팅의 사용자에게 있어 오늘의 사례는 자신이 공유하는 정보의 성질을 다시 한번 의식하는 계기가 될 수 있다. 암호자산의 키나 법률 상담과 같이 제3자에게 알려지고 싶지 않은 정보를 채팅에서 다룰 때는 공유 기능의 사용에 신중해지는 것이 요구된다. 서비스 제공 측의 설정 실수가 언제 발생할지를 사용자가 예측하기 어렵고, 원래부터 외부에 노출하고 싶지 않은 정보는 AI와의 상호작용이라 해도 입력하지 않는다는 인식이 개인 차원에서도 중요하다고 할 수 있다.

AI 서비스의 이용이 일상화되어 감에 따라 이러한 기술적 설정 실수로 인한 프라이버시 위험에 대한 대응은 각사에게 더욱 중요한 과제가 되어 간다고 위치지어진다. OpenAI에 이어 Anthropic에서도 동종의 문제가 확인됨으로써 업계 전체로서의 보안 기준이나 설정의 표준화에 향한 논의가 가속할지 어떨지, 향후의 움직임이 주목된다.