OpenAI, 러시아의 거짓 정보 공작 계정 중단

OpenAI는 ChatGPT를 이용하여 러시아 친화적인 정보를 유럽과 미국을 향해 확산하려던 은폐된 영향력 공작을 적발하고, 관련 계정들을 동결했다. 공작의 실태가 드러남으로써 생성형 인공지능이 실제 정보 조작에 사용된 구체적인 사례로 널리 주목받고 있다.

이러한 공작이 행해진 배경에는 생성형 인공지능의 급속한 확산이 있다. 텍스트 생성과 번역을 자동화할 수 있는 인공지능 도구는 정규의 비즈니스 사용자뿐만 아니라 거짓 정보를 확산하려는 조직에게도 사용하기 쉬운 환경을 만들어왔다. 특히 대규모 언어 모델은 자연스럽고 읽기 쉬운 텍스트를 대량으로 다국어로 생산할 수 있기 때문에, 정보 공작의 도구로 악용될 위험이 이전부터 지적되어 왔다.

확인된 사실에 따르면, 공작의 운영자는 가상 사설 네트워크(VPN)를 통해 러시아에서 OpenAI 플랫폼에 접속하고 있었다. VPN은 본래의 위치와 신원을 숨기기 위해 사용되는 도구이며, 이번에는 그 특성을 활용하여 추적을 피하려 한 것으로 보인다. 공작은 '인터내셔널 버크 인스티튜트'라는 실존하지 않는 가상의 기관으로 위장하여 전개되었으며, EU와 독일 정부를 비판하는 독일어의 Telegram 콘텐츠를 포함한 소셜 미디어 게시물을 생성하고 확산했다.

OpenAI에 따르면, 이번 공작의 실제 확산 규모는 제한적이었다고 한다. 다만 동사는 이 공작을 뒷받침하는 메커니즘이 장기적으로는 확대되고 강화될 가능성이 있었다고 경고하고 있다. 즉, 현 시점에서의 영향이 작더라도 방치하면 조직적인 프로파간다 네트워크로 성장할 여지가 있었다는 판단이다.

이 사례가 보여주는 것은 인공지능 기업이 자신의 서비스의 '악용'에 대해 실제로 대응할 수 있다는 측면이다. 한편 VPN이나 가상 단체의 명칭을 사용하는 등 발견을 지연시키기 위한 시도가 확인되었으며, 적발에 이르기까지 일정한 시간과 분석이 필요했던 것으로 생각된다. 생성형 인공지능을 활용한 정보 조작의 기법이 정교해지고 있다는 견해도 있을 수 있다.

인공지능 기업에 의한 플랫폼의 '악용 방지' 노력은 기술적인 탐지 능력뿐만 아니라 정책을 어느 정도까지 철저히 할 수 있는가라는 운영 측면의 과제도 동반한다. OpenAI가 이번 적발 사례를 공표한 것 자체는 투명성 확보와 억지력 강화를 의도한 것으로도 위치 지을 수 있다. 향후에는 유사한 공작에 대해 어떠한 초기 발견 메커니즘이 정비될 것인지가 주목점이 될 것이다.