OpenAI, 계약직 직원에게 ChatGPT 대화 평가하게 해

OpenAI가 수백 명의 계약직 직원에게 ChatGPT의 실제 대화를 읽게 하고 내용을 평가하게 했다는 사실이 드러났다. 매체 '404 Media'가 보도한 것으로, 대화는 1~7 척도로 채점되는 구조다. 평가의 목적 중 하나는 인공지능이 과도하게 아첨하거나 필요 이상으로 인간답게 행동하는 경향을 억제하는 것이다.

인공지능 모델의 품질을 높이려면 인간이 실제 결과물을 읽고 좋고 나쁨을 판단하는 과정이 필수다. 이는 '인간의 피드백에 의한 강화학습(RLHF)'이라 불리는 기법으로, ChatGPT 같은 대규모 언어모델 개발에서 널리 채택되고 있다. 즉 이번 보도는 OpenAI에만 해당하는 특수한 관행이 아니라 인공지능 산업 전체에 공통되는 개발 프로세스의 일부라고 볼 수 있다.

한편 개인정보보호 관점에서는 주의가 필요한 점도 있다. 평가에 사용되는 대화 데이터는 익명 처리되어 있지만, 익명 처리를 빠져나간 개인정보나 민감한 내용이 남아있을 가능성은 배제할 수 없다. 이용자가 일상적으로 보내는 프롬프트에는 건강·직장·인간관계 등 남에게 보여질 것을 상정하지 않은 정보가 포함되는 경우가 적지 않기 때문이다.

문제를 더욱 복잡하게 하는 것은 설정의 초기값이다. ChatGPT에서는 '모두를 위해 모델 개선하기'라는 설정이 기본값으로 켜져 있으며, 이 설정이 활성화된 상태에서는 대화 내용이 평가 대상이 될 수 있다. 즉 인간에게 대화를 읽히고 싶지 않은 이용자는 스스로 이 설정을 수동으로 꺼야 한다. 아무것도 하지 않으면 평가 대상이 된다는 구조는 이용자가 깨닫지 못한 채 동의하고 있는 상태에 가깝다고도 할 수 있다.

이 구조는 디지털 서비스에 널리 보이는 '옵트아웃 방식'의 한 예다. 사용자에게 적극적인 선택을 요구하지 않고 기본값 상태에서 데이터 활용에 동의한 것으로 취급하는 설계는 편리성과 개인정보보호 사이의 균형을 어디에 두는가 하는 물음을 항상 내포하고 있다. 규제 당국과 연구자들 사이에서도 이러한 초기 설정의 방식을 문제로 삼는 논의가 계속되고 있다.

이번 보도는 생성형 인공지능 서비스를 일상적으로 사용하는 이용자들에게 자신의 데이터가 어떻게 다루어지는지 다시 한번 확인하는 계기가 된다. 설정 메뉴를 확인하고 자신의 의도에 맞는 선택을 하는 것이 현재로서는 이용자 자신에게 맡겨져 있다. 앞으로 인공지능 기업이 데이터 이용의 투명성을 어떻게 높여나갈 것인가는 업계 전체의 신뢰도와 관련된 중요한 과제로 자리 잡을 것으로 보인다.