AI의 "기억 상실"은 지식 부족이 아닌 인출 실패

대규모 언어 모델(LLM)이 잘못된 정보를 생성하는 "환각" 현상이 발생했을 때, 개발자 대부분은 모델이 필요한 지식을 원래부터 보유하지 못했다고 판단한다. 따라서 모델을 확대하거나, 학습 데이터를 증가시키거나, 외부 데이터베이스에서 정보를 수집하는 메커니즘(RAG: 검색 기반 생성)을 구축하는 등의 대책이 시행되어 왔다. 하지만 Google Research와 이스라엘의 Technion 공과대학 연구자들이 발표한 새로운 연구는 이러한 전제를 근본적으로 재검토하고 있다.

연구팀의 실험에 따르면, GPT-5와 Gemini-3 같은 최첨단 모델은 테스트한 사실의 95~98%를 매개변수(모델 내부 기억 영역)로 이미 보유하고 있음이 확인되었다. 즉, 문제의 대부분은 "지식의 부족"이 아니라 "지식을 제대로 인출하지 못하는 것"에 있다는 것이다. 이러한 발견은 환각 현상 대책의 방향성을 재검토하는 근거가 될 수 있다.

연구팀은 모델의 지식을 평가하는 새로운 프레임워크로 "팩트 레벨 프로파일링"을 제안했다. 기존의 평가는 "질문에 올바르게 답했는가 여부"를 보는 것이었지만, 이 기법은 하나의 사실을 여러 각도와 표현 방식에서 반복적으로 묻고, 모델이 정말로 그 정보를 내부에 보유하고 있는지를 상세히 조사한다. 연구자들은 "인코딩(기억) 실패"와 "리콜(상기) 실패"는 일반적인 정확도 지표로는 구별할 수 없지만, 원인도 해결책도 완전히 다르다고 지적하고 있다.

이 프레임워크에 기초하여, 연구팀은 지식의 상태를 다섯 가지 프로파일로 분류했다. 사실을 기억하고 즉시 답할 수 있는 "직접 상기", 기억도 상기도 할 수 없는 "인코딩 실패(빈 선반)", 기억은 하지만 인출하지 못하는 "리콜 실패(열쇠 분실)" 등이 포함된다. 예를 들어 "Oasis가 처음 라이브를 공연한 것은 Boardwalk 클럽"이라는 사실을 예로 들며, 모델이 동일한 문맥에서는 재현할 수 있으나 "Oasis가 처음 라이브를 공연한 장소는?"이라는 질문에는 답하지 못하는 경우를 보여주고 있다.

이 연구가 실무적으로 시사하는 바는 크다. 지식의 부족이 아니라 "인출의 어려움"이 주요 문제라면, 모델의 재학습이나 대규모 데이터 추가보다는 추론 시점의 계산량을 늘리거나 질문 방식을 고도화하는 것으로 개선할 수 있는 가능성이 있다. 연구자들도 "리콜 실패에 대해서는, 모델이 이미 보유한 지식을 더욱 효과적으로 활용하게 하는 사후 학습적 접근이 유효하다"고 논문에서 언급하고 있다.

AI 시스템의 신뢰성 향상을 목표로 하는 개발 현장에 있어서, 이러한 관점의 전환은 비용 대비 효과 측면에서도 의미를 갖는다고 할 수 있다. 더 큰 모델이나 외부 데이터베이스에 대한 의존도를 줄일 수 있다면, 인프라 비용 절감으로도 이어질 수 있다. 한편 "인코딩 자체가 실패하는 사실"에 대해서는 여전히 데이터 확충이나 모델 확대가 필요하며, 두 가지 실패 유형을 정확히 구별하는 것이 전제가 된다. 향후 이러한 분류를 실제 시스템에 어떻게 적용할 것인가가 주목점이 될 것 같다.