Signal 대표, AI 챗봇은 "친구가 아니다"고 경고

프라이버시 중심의 암호화 메시지 애플리케이션 "Signal"의 대표를 맡은 메레디스 위태커는 AI 챗봇의 성질에 대해 명확한 견해를 제시했다. "이것들은 당신의 친구가 아니다. 의식을 가진 존재도 아니며, 감정을 가진 대화 상대도 아니다"라고 언급하며, 사용자가 AI에 과도한 감정적 의존을 기울이는 것에 대한 우려를 표현했다.

이러한 발언이 나온 배경에는, 최근의 AI 챗봇이 빠르게 "인간다움"을 전면에 내세우고 있다는 상황이 있다. OpenAI와 Google을 비롯한 주요 기술 기업들은 자사의 AI 어시스턴트에 공감적인 톤이나 감정적인 응답 능력을 갖추는 방향으로 개발을 진행하고 있으며, 사용자와의 장기적인 "관계 구축"을 서비스의 특징으로 내세우는 경우도 증가하고 있다. 이러한 흐름 속에서 AI와의 친밀한 상호작용을 일상적으로 하는 사용자들도 전 세계적으로 증가하고 있다고 알려져 있다.

위태커가 특히 문제시하는 것은 AI가 "의식이 있다" "감정이 있다"인 것처럼 행동하도록 설계된 것 자체이다. 현재의 AI 챗봇은 대량의 텍스트 데이터를 학습하여 인간의 대화 패턴을 모방하는 기술(대규모 언어 모델, LLM)에 의해 작동하며, 내부에 주관적인 경험이나 감정을 가지지 않는다. 그럼에도 불구하고 친근한 어투나 감정적인 반응을 반복함으로써 사용자가 실제의 인간관계와 혼동하기 쉬운 상황이 생겨난다는 관점이 있다.

Signal은 엔드투엔드 암호화(통신 내용을 송수신자 이외가 읽을 수 없는 구조)를 채택하고, 사용자 데이터를 수익화하지 않는 것으로 알려진 비영리 단체가 운영하는 애플리케이션이다. 위태커 자신도 기술 업계의 감시와 데이터 이용 문제를 장년간에 걸쳐 지적해온 인물이며, 이번 발언도 그 연장선상에 있다고 할 수 있다. AI 기업 대부분이 사용자와 AI의 친밀한 관계를 통해 데이터를 수집·활용하는 사업 모델을 가진 가운데, 그러한 구조에 대한 비판적 관점이 담겨 있다는 관점이 있다.

"친구처럼 행동하는 AI"에 대한 경계는 위태커만이 보이는 것이 아니다. AI 윤리나 심리학 분야에서도 챗봇에 대한 감정적 의존이 사용자의 판단력이나 인간관계에 미치는 영향에 대한 논의가 계속되고 있다. 다만 기업이나 제품을 구체적으로 명시한 비판이라기보다는, 업계 전체의 설계 사상에 대한 문제 제기로 받아들이는 것이 적절할 것이다.

AI가 생활에 깊이 파고들수록, "사용하는 쪽이 그 본질을 올바르게 이해하고 있는가"라는 문제는 중요성이 증가한다. 챗봇이 감정적인 지지가 될 수 있다는 장점과, 그것이 의식이나 감정을 가지지 않은 시스템이라는 사실 사이의 낙차를 사용자 자신이 계속 인식하는 것이 요구되는 국면에 들어가고 있다는 관점이 있다. 향후 AI 기업이 사용자에 대한 "투명성"을 어느 정도까지 확보할 것인지, 또한 규제나 업계 표준의 정비가 어떻게 진행될 것인지가 하나의 주목점이 될 것이다.