중국·Microsoft 연구팀, AI 최적화 프레임워크 「Arbor」 개발

중국인민대학과 Microsoft Research의 연구자 팀이 AI 시스템의 자율적 개선을 지원하는 새로운 프레임워크 「Arbor」를 개발했다. 해당 프레임워크는 AI 에이전트가 시행착오를 반복하면서 학습하는 「자율 최적화(AO)」라고 불리는 기법을 더욱 효율적으로 실현하기 위해 설계되었다. 실제 엔지니어링 작업을 이용한 검증에서는 동일한 계산 자원 예산 내에서 Arbor가 표준적인 AI 코딩 에이전트의 2.5배 이상의 검증 가능한 성능 향상을 달성했다.

자율 최적화란 AI 에이전트가 기계학습 코드나 데이터 처리 파이프라인과 같은 「개선 대상」을 부여받아 인간이 일일이 지시하지 않아도 실험과 결과 피드백을 반복하면서 스스로 개선을 거듭하는 프로세스를 가리킨다. 이러한 접근법은 소프트웨어의 지속적 개선을 자동화할 수 있다는 점에서 주목받고 있지만, 기존 에이전트에는 큰 구조적 결함이 있었다. 각 시행이 독립적으로 처리되기 때문에 과거 실험에서 얻은 통찰이 다음 시행으로 이어지지 않는 것이다. 논문의 공동 저자인 Jiajie Jin 씨는 「자동화에 의해 AI를 장시간 가동하게 할 수는 있지만, 루프가 계속된다고 해서 반드시 진전을 의미하는 것은 아니다」라고 말했다.

Arbor는 이 과제를 가설·실험·얻어진 통찰을 「트리 구조」(나무 구조)로 관리함으로써 해결한다. 트리 구조는 정보를 가지를 치면서 계층적으로 정리하는 데이터의 조직 방식으로, 과거의 실패와 성공의 이력을 체계적으로 보유할 수 있다. 이에 따라 에이전트는 이전의 시도를 참고하면서 다음 개선안을 수립할 수 있게 되어 동일한 실패를 반복하지 않으면서 학습이 누적된다. 지금까지의 에이전트가 「각 시행을 따로따로 처리하는」 구조였다면, Arbor는 경험을 축적할 수 있는 구조를 처음으로 체계적으로 제공한다는 점이 새롭다.

이 메커니즘이 특히 중요해지는 장면 중 하나가 기업용 AI 시스템의 운영이다. 예를 들어 사내 문서를 검색하여 직원의 질문에 답하는 AI 에이전트를 개발·운영하는 경우, 개발 단계에서는 잘 작동해도 본번 환경에서 잘못된 정보를 출력하거나 중요한 제약 조건을 무시하는 문제가 발생하기 쉽다. 이러한 문제를 수정하려면 문서의 분할 방법·검색 로직·시스템으로의 지시문을 동시에 조정할 필요가 있으며, 어느 변경이 개선에 기여했는지를 특정하기 어려웠다. Arbor의 트리 구조에 의한 관리는 이러한 복합적인 조정의 효과를 추적하기 쉽게 한다.

연구팀은 Arbor가 기업의 AI 시스템에서의 지속적 개선 자동화에 직접 적용될 수 있다고 설명하고 있다. 현재의 AI 개발에서 시스템의 성능 개선은 많은 경우 엔지니어에 의한 수동의 시행착오에 의존하고 있다. Arbor와 같은 프레임워크가 실용화된다면 그 공정의 일부를 자동화할 수 있는 가능성이 있다. 다만 현재 공개되고 있는 것은 연구 단계의 성과이며, 실제 제품·서비스로의 탑재에 관한 상세는 현 시점에서는 명확히 되어 있지 않다.