NVIDIA, 가정용 AI 처리 분산 도구 베타 공개

NVIDIA는 가정 내의 여러 개인용 컴퓨터를 연결하여 AI 처리를 자동으로 분배하는 소프트웨어 'PAIR(Personal AI Router)'의 베타 버전을 공개했다. 같은 네트워크 위에 있는 여러 기기의 처리 능력을 모아서 사용할 수 있도록 하는 구조로, 개인 사용자가 보유한 기기를 최대한 활용할 수 있도록 설계되었다.

원래 AI의 처리, 특히 대규모 언어 모델을 구동하는 추론(모델이 질문이나 지시에 응답하는 계산 처리)은 GPU에 큰 부하를 가한다. 여러 AI 에이전트가 동시에 동작하는 '멀티에이전트'라고 불리는 용도에서는 1대의 GPU만으로는 처리가 따라가지 못하는 것이 문제였다. PAIR는 이 문제를 가정 내 네트워크 전체를 하나의 처리 기반으로 사용하는 발상으로 해결하려고 한다.

PAIR의 주요 역할은 로컬 네트워크상의 여러 컴퓨터가 가진 추론 능력을 모아서 AI의 요청을 자동으로 분배하는 것이다. 특히 여러 개의 독립된 모델 호출이 동시에 발생하는 멀티에이전트 AI의 워크로드를 주요 대상으로 하고 있다. 1대의 GPU에 처리가 집중되어 병목이 되는 상황을 여러 대에 분산함으로써 완화하는 구조라고 할 수 있다.

이러한 움직임은 로컬(손 안의 단말기)에서 AI를 구동하는 조류와 밀접한 관계가 있다. 클라우드를 거치지 않고 자신의 기계에서 AI를 실행하는 로컬 AI는 개인정보 보호와 통신 비용 관점에서 관심을 모아왔다. 한편 고성능 AI를 구동하려면 상응하는 GPU 성능이 필요하며, 일반 가정의 1대 개인용 컴퓨터로는 한계가 있다는 현실도 있다. PAIR는 여러 대를 조합함으로써 이러한 제약을 부분적으로 극복하려는 시도로 자리매김된다.

멀티에이전트 AI란 여러 AI가 역할을 분담하면서 협력하여 동작하는 시스템을 말한다. 예를 들어 한쪽 에이전트가 정보 수집을 담당하고 다른 에이전트가 문장 생성을 담당하는 식으로, 각각이 독립적으로 모델을 호출한다. 호출이 겹칠수록 1대의 GPU에 대한 부하는 증가하므로, 분산 처리의 수요는 멀티에이전트 구성이 보편화될수록 높아지는 경향을 보인다.

개인 용도로 이러한 분산 처리 인프라를 제공하는 제품은 지금까지 그리 일반적이지 않았다. 그 의미에서 PAIR는 로컬 AI 환경 구축에 있어 새로운 선택지를 제시하는 것이라고 할 수 있다. 다만 현 시점에서는 베타 버전이므로 안정성이나 대응 환경의 세부 사항에 대해서는 향후의 정보를 주시할 필요가 있다.

AI의 처리 능력을 어디에 둘 것인가, 클라우드인가 손 안인가라는 물음은 업계 전체에서 여전히 흔들리고 있다. PAIR 같은 개인용 분산 처리 도구가 보편화할지는 세팅의 용이성과 실제 성능 개선 정도에 달려 있다고 보인다. 베타 버전 단계에서 어떠한 피드백이 모아지는가가 향후 방향성을 좌우하는 열쇠가 될 것이다.