OpenAI, 사이버보안 데이터를 무단으로 학습 이용하기로

OpenAI는 2025년 11월 29일부터 사이버보안 분야 프로그램 'Daybreak Blue'의 세션 데이터를 AI 모델 학습에 사용한다고 사용자들에게 통지했다. 문제가 된 점은 사용자가 '학습 이용 비활성화'로 설정했을 경우에도 이 데이터를 학습에 활용한다는 방침이었다는 점이다.

Daybreak Blue는 OpenAI가 사이버보안 분야의 전문가와 연구자를 위해 제공하는 프로그램으로, 참가자들은 고도의 위협 분석 및 방어 기법에 관한 세션을 진행한다. 이러한 세션에는 민감한 업무 데이터나 미공개 지식이 포함되는 경우가 많으며, 지금까지는 학습 데이터에서 제외된다고 참가자들이 인식하고 있었던 것으로 보인다. 따라서 이번 방침 변경은 사용자의 기대를 저버리는 것으로 비판을 받았다.

사용자들의 반발을 받은 OpenAI는 후속 이메일을 발송하여 이번 학습 이용에 대해 별도의 거부(옵트아웃) 수단을 마련하겠다고 약속했다. 그러나 이미 거부 설정을 활성화한 사용자들에게는 다시 절차를 밟아야 하는 상황이 되었다.

이 문제는 과거에 발생한 다른 논쟁과도 겹쳐 보인다. 이전에 수학자 그룹이 미발표 연구 성과를 OpenAI가 무단으로 학습에 사용했을 가능성에 대한 의혹을 제시한 바 있었다. 당시에도 동의 없이 데이터가 활용되었을 가능성이라는 논의가 일어났으며, 이번 사건은 그러한 우려를 다시 불러일으키는 형태가 되었다.

AI 모델의 학습에는 대량의 데이터가 필요하며, 특히 전문 분야 데이터는 질 높은 학습 자료로서 가치가 크다. 한편 사용자가 설정한 제한을 넘어 데이터를 사용하는 것은 신뢰 관계의 근간에 관련된 문제로 위치지어진다. '비활성화했는데도 사용되었다'는 사태는 단순한 설정 오류가 아니라 사용자의 선택이 실제로 작동했는지에 대한 의문으로 이어질 수 있다.

앞으로의 주목점은 OpenAI가 거부(옵트아웃) 체계를 어떻게 정비하고 사용자에 대한 설명 책임을 다할지 하는 점이다. AI 서비스에서의 데이터 이용 투명성은 규제 당국 및 이용자로부터 한층 더 엄격한 질문을 받고 있으며, 이번과 같은 방침 변경의 공지 방식과 동의 획득 방식은 업계 전체의 관행을 다시 문제 삼는 계기가 될 수 있다는 견해가 있다.

특정 전문 분야용 프로그램에서 수집된 데이터는 그 성질상 일반적인 이용약관의 상정 밖의 정보가 포함되는 경우가 많다. Daybreak Blue와 같은 보안 특화 프로그램에서는 참가자가 가져오는 정보의 기밀성이 특히 높을 수 있으며, 학습 이용의 범위를 둘러싼 논의는 앞으로도 계속될 것으로 보인다.