싱가포르 국립대, AI의 메모리 관리를 혁신하는 새로운 기법 개발

싱가포르 국립대학교 연구팀이 AI 에이전트의 메모리 관리를 근본적으로 재검토한 새로운 프레임워크 'MRAgent(Memory Reasoning Architecture for LLM Agents)'를 개발했다. 기존의 '검색한 후 추론한다'는 고정적인 접근 방식을 버리고, 추론하면서 동적으로 메모리를 재구성하는 메커니즘을 채택하고 있다. 이러한 기법을 통해 다른 동종 프레임워크와 비교했을 때 토큰 소비량과 처리 비용을 대폭 삭감할 수 있다고 한다.

원래 AI 에이전트가 복수의 단계에 걸쳐 복잡한 추론을 수행하는 '장기 작업'에서는 컨텍스트 윈도우(LLM이 한 번에 처리할 수 있는 정보량의 범위)가 금방 가득 찬다는 문제가 있다. 기존의 검색 파이프라인은 벡터 검색이나 그래프 탐색으로 문서를 가져온 후, 그 결과를 모아서 LLM에 넘기는 메커니즘이다. 하지만 이 방식에서는 추론 도중에 새로운 단서가 발견되어도 검색 전략을 수정할 수 없을 뿐만 아니라, 관계가 얇은 정보까지 대량으로 컨텍스트에 흘러들어간다. 결과적으로 추론의 정확도가 떨어진다는 근본적인 과제가 남아 있었다.

연구팀은 이 문제를 인지 신경과학의 '기억의 재구성'이라는 개념에서 착상을 얻어 해결하려고 했다. 인간의 기억 상기가 정적인 데이터베이스의 읽기가 아니라, 작은 단서로부터 연상을 쌓아 올리는 순차적인 프로세스이듯이, MRAgent도 마찬가지의 동작을 수행한다. 구체적으로는 사용자의 질문에 포함된 인명·행동·장소 같은 작은 단서를 출발점으로, 구조화된 메모리 그래프 위에서 복수의 후보 경로를 탐색한다. 그때마다 얻어진 중간적 증거를 LLM이 평가하고, 다음 검색 조건을 좁혀가면서 불필요한 경로를 가지치기하여 최적의 경로를 따라가는 메커니즘이다.

이 '추론과 검색을 동시에 수행한다'는 아키텍처가 토큰 효율 면에서 큰 차이를 낳는다. 원문에 따르면, 비교 대상이 된 다른 에이전트 메모리 프레임워크 'LangMem'이 1 쿼리당 약 326만 토큰을 소비하는 데 대해, MRAgent는 약 11만 8000토큰에 그친다고 한다. 필요한 정보만 단계적으로 쌓아올리는 설계가 불필요한 정보의 읽기를 억제함으로써, 비용과 속도 양면에서의 개선으로 이어지고 있다.

이 연구가 가지는 의미는 비용 삭감에 그치지 않는다. 장기간에 걸친 대화나 복잡한 조사 작업으로의 AI 에이전트의 활용은 향후 더욱 확대될 것으로 보이지만, 그 병목은 바로 메모리 관리의 비효율성에 있다. MRAgent처럼 추론과 메모리 재구성을 통합하는 접근 방식은, 에이전트가 '도구로 사용할 수 있는 수준'에 가까워지기 위한 중요한 한 걸음으로 자리매김된다. 정적인 데이터베이스를 참조하기만 하는 수동적인 검색에서, 능동적으로 맥락을 구성하는 방향으로의 전환이라는 점에서, 연구의 방향성 자체에 주목할 가치가 있다고 할 수 있다.

향후의 초점은, 이 프레임워크가 실제의 프로덕션 환경에서 어디까지 규모를 확장할 수 있느냐는 점이다. 현 시점에서는 연구 단계의 성과이며, 다양한 영역과 조건 하에서의 실증이 추가로 필요하다. 한편, 메모리 관리의 설계 사상 자체가 '정적인 검색'에서 '동적인 재구성'으로 이행하고 있다는 흐름은, 이 연구만이 보여주는 것이 아니라 분야 전체의 방향성과도 겹친다. 실용화를 향한 검증의 진전이 주목된다.