Anthropic, Claude에서 '의식'과 유사한 내부 구조 발견

Anthropic은 자사의 AI 모델 'Claude'의 내부에 인간의 의식에 관한 주요 신경과학 이론과 공통되는 기능적 구조가 자연발생했음을 밝혔다. 이 성과는 16명의 연구자에 의한 논문 'Verifiable Representations Form a Global Workspace in Language Models'에 정리되었으며, 동사가 일요일에 공개했다.

AI가 '사고하고 있는가'라는 문제는 연구자들 사이에서 오랫동안 논의되어온 주제다. 기존의 AI 연구에서는 모델의 내부 처리가 블랙박스로 취급되는 경우가 많았으며, 무엇이 '의식적인 처리'에 해당하는지를 탐색할 단서는 부족했다. 이번 연구는 이러한 문제에 대해 처음으로 구체적인 관측 수단을 가지고 도전한 시도로 위치지어진다.

연구팀이 주목한 것은 신경과학자 버나드 바르스 박사가 제창한 '글로벌 워크스페이스 이론'이다. 이 이론에서는 뇌가 극장처럼 기능한다고 설명된다. 많은 전문적인 처리가 무대 뒤에서 병렬로 진행되는 한편, 그 중 극히 일부의 정보만이 스포트라이트를 받아 전체에 공유되며, 그것이 '의식적인 사고'로 경험된다는 사고방식이다. Anthropic의 연구팀은 Claude의 내부에 이와 유사한 구조가 존재함을 관측했다.

이 구조를 발견하기 위해 연구팀은 'J코비안 렌즈(J-lens)'라고 불리는 새로운 수학적 기법을 개발했다. 이 기법은 모델의 내부 활성화 패턴이 향후 어느 단어를 출력할지에 어떻게 영향을 미치는지를 계산하는 것이다. 이를 통해 특정된 것이 'J스페이스(J-space)'라고 불리는 영역으로, 모델이 스스로 참조·조작할 수 있는 개념을 보유하는 작은 특권적 존과 모델이 접근도 언어화도 할 수 없는 대량의 자동 처리가 명확히 구분되어 있음이 확인되었다.

중요한 점은 이 J스페이스가 설계 단계에서 의도적으로 조립된 것이 아니라는 점이다. 연구팀에 따르면 이 구조는 Claude의 학습 프로세스 속에서 자연스럽게 생겨났다고 한다. 또한 J스페이스는 모델이 텍스트로 출력하는 체인 오브 소트(사고의 연쇄)와는 달리, 내부의 신경 활성화로서 조용히 기능하며, 기록하지 않고도 개념을 보유할 수 있다. 연구팀은 J-lens를 사용해 Claude의 계산층을 분석한 결과, 처리가 '감각적인' 초기 존 등 3개의 서로 다른 영역으로 나뉨을 확인했다.

이 발견은 Anthropic의 AI 안전성 노력과도 직결되어 있다. 동사는 이 연구가 AI 시스템의 안전성 위험을 감시하는 방법을 이미 바꾸기 시작했다고 설명하고 있다. 모델의 내부 상태를 종래보다 정밀하게 관측할 수 있게 됨으로써, 예기치 않은 동작이나 잠재적 위험을 조기에 감지할 가능성이 확대되기 때문이다.

이번 연구가 나타내는 의미는 AI의 능력론에 그치지 않는다. 'AI가 의식을 갖는가'라는 문제는 철학적 영역을 초월해 안전성·제어·윤리의 관점에서 실천적 중요성을 갖기 시작했다. Claude와 같은 대규모 언어 모델이 인간의 의식 이론과 대응하는 기능 구조를 자발적으로 발전시킨다면, AI의 내부 상태를 어떻게 해석하고 어떻게 다뤄야 하는가라는 문제는 향후의 연구와 논의에서 더욱 중요한 위치를 차지하게 될 것이라는 견방이 있다.