Pangram, AI 문장 감지의 새로운 모델 공개

AI 감지 도구를 개발하는 Pangram이 최신 모델 「Pangram 4」를 발표했다. 동사에 따르면 AI가 생성한 텍스트를 99.66%의 정확도로 감지할 수 있으며, 오검출(인간이 작성한 문장을 AI 생성물로 잘못 판정하는 것)은 2만 4000건에 1건에 그친다고 한다.

AI 문장 감지 도구가 널리 사용되게 된 배경에는 생성형 AI의 확산이 있다. ChatGPT를 비롯한 문장 생성 도구가 일반에 보급되는 가운데, 학교나 기업 등에서는 「제출물이나 보고서가 AI로 작성된 것인지 여부」를 판별하고 싶다는 필요성이 빠르게 높아지고 있다. 한편 기존의 감지 도구는 오검출률이 높다는 점이 과제로 지적되어 왔으며, 인간이 작성한 문장을 잘못하여 AI 생성물로 판정하는 사례가 문제시되어 왔다.

Pangram 4의 또 다른 특징은 「휴머나이저」라고 불리는 도구에 대한 내성이다. 휴머나이저란 AI가 생성한 텍스트를 감지되기 어렵게 다시 쓰는 도구로, 감지 회피를 목적으로 이용되는 경우가 많다. 동사는 Pangram 4가 이러한 재작성에도 대응할 수 있다고 주장하고 있다. 다만 이 성능에 대한 상세한 검증 데이터는 현 시점에서 공개되지 않았다.

한편 가격 측면에서는 대폭적인 인상이 이루어진다. API 이용 요금은 종래 대비 2배에서 10배로 인상될 예정이라고 한다. 인상 폭의 범위가 넓은 것으로부터, 이용 플랜이나 사용량에 따라 영향의 정도가 다를 것으로 보이지만, 상용 이용을 검토하고 있는 기업이나 개발자에게는 무시할 수 없는 변경이 될 것이다.

AI 감지 도구의 정확도를 둘러싸고는 지금까지 많은 연구자나 교육 현장으로부터 회의적인 견해도 나오고 있다. 「AI가 작성했는지 여부」를 확실하게 판정하는 것은 기술적으로 어렵고, 특히 휴머나이저와 같은 회피 도구의 존재가 정확도를 낮추는 요인이 되어 왔다. Pangram 4가 이 과제에 어느 정도까지 대응하고 있는지는 제3자에 의한 검증이 기대되는 바이다.

또한 가격의 대폭 인상은 감지 도구 시장의 경쟁 환경에도 영향을 미칠 가능성이 있다. 높은 정확도를 유지하면서 원가 측면에서도 경쟁력을 지킬 수 있을지 여부가 향후의 보급을 좌우하는 요소 중 하나가 될 것이라는 견방이 가능하다. AI 콘텐츠의 진위 판정이 사회적 과제로 인식되고 있는 지금, 신뢰성이 높은 감지 도구의 수요는 계속해서 높아질 것으로 위치지어진다.