WhatsApp, 기기 내 AI로 사기 메시지 탐지

Meta의 메시징 앱 WhatsApp이 사기 메시지를 자동으로 탐지하는 새로운 기능 'Scam Alert'의 제한된 베타 테스트를 시작했다. 이 기능은 연락처에 등록되지 않은 상대방으로부터 받은 메시지를 대상으로 기기 내부에서 기계학습을 실행하여 사기 가능성을 판정하는 방식이다.

최근 메시징 앱을 통한 사기 피해가 전 세계적으로 증가하고 있으며, 모르는 상대방으로부터의 의심 메시지에 대한 대처는 플랫폼에 있어 큰 과제가 되고 있다. 한편 WhatsApp은 종단간 암호화(송수신자만 메시지를 읽을 수 있는 암호화 방식)를 서비스의 근간으로 삼고 있으며, 사기 대책을 위해 메시지 내용을 서버로 전송하는 접근 방식은 프라이버시 정책과 정면으로 충돌할 수 있다. Scam Alert는 이러한 딜레마에 대한 기술적 해답으로 위치지어진다.

Meta가 채택한 설계에서는 메시지 내용이 사용자의 기기 외부로 나가지 않는다. 판정 처리는 모두 기기에서 완결되며 서버로는 메시지 자체가 전송되지 않는다. 그 위에 Meta는 기능의 정확도를 측정하고 모델의 배포를 보호하기 위해 여러 프라이버시 보호 기술을 조합하여 사용하고 있다고 설명하고 있다.

구체적으로 채택된 기술은 네 가지다. 첫 번째는 '기밀 컴퓨팅'으로, 데이터를 처리하는 환경 자체를 하드웨어 레벨에서 보호하는 방식이다. 두 번째는 'Oblivious HTTP'로, 통신의 송수신자가 상호 특정되지 않도록 요청을 중계하는 방식을 의미한다. 세 번째는 '차분 프라이버시'로, 통계적 집계 결과로부터 개인을 특정할 수 없도록 데이터에 의도적인 노이즈를 추가하는 기법이다. 네 번째는 '모델의 투명성'으로, 탐지에 사용하는 AI 모델 자체의 신뢰성 확보를 목적으로 한다.

이러한 시도가 보여주는 의의는 기술적 새로움에 그치지 않는다. '프라이버시를 지키면서 안전을 높인다'는 것은 종래부터 말해온 목표이지만, 이번 Meta는 WhatsApp이라는 거대한 플랫폼 위에서 그 양립을 구현하려고 하는 점이 주목된다. 기기 내에서 판정을 완결시키는 설계는 만의 하나 서버가 침해된 경우에도 메시지 내용이 유출될 위험을 구조적으로 낮춘다는 장점이 있다.

현시점에서는 제한된 베타 단계에 있으며, 모든 사용자가 이용할 수 있는 것은 아니다. 향후 정식 전개나 기능의 상세에 대해서는 Meta의 후속 보도를 기다릴 필요가 있다. 또한 실제로 어느 정도의 정확도로 사기 메시지를 탐지할 수 있는지, 오판(사기가 아닌 메시지를 사기로 판정하는 문제)이 어느 정도 발생하는지 같은 실운영상의 과제는 널리 전개되어야 비로소 명확해지는 성질의 것이다.

대형 플랫폼이 온디바이스 AI와 프라이버시 보호 기술을 조합하는 움직임은 메시징 앱의 안전 기능 설계에 있어 하나의 방향성을 보여주는 것이라 할 수 있다. 다른 메시징 서비스나 유사한 프라이버시상의 제약을 안고 있는 앱이 어떻게 대응해 나갈지, 업계 전체의 흐름에도 영향을 미칠 수 있는 시도로서 주목할 수 있다.