Google과 Meta, PyTorch의 TPU 대응 라이브러리 공개

Google과 Meta는 공동으로 'TorchTPU'라고 불리는 오픈소스 소프트웨어 라이브러리를 공개했다. TorchTPU는 기계학습 분야에서 널리 사용되고 있는 프레임워크 'PyTorch'를 Google의 AI 전용 칩 'TPU(Tensor Processing Unit)' 위에서 기본적으로 동작시키기 위한 체계이다. 이제까지 서로 다른 진영에 속해 있던 두 기술 대기업이 인프라 층 정비에서 손을 맞춘 것이 된다.

배경으로 PyTorch와 TPU는 원래 상성이 좋은 조합이 아니었다. PyTorch는 Meta에서 비롯된 프레임워크로 NVIDIA의 GPU와의 친화성이 높게 설계되어 왔다. 한편 TPU는 Google이 독자적으로 개발한 AI 처리에 특화된 칩으로, 이제까지는 Google의 독자 프레임워크 'JAX'나 'TensorFlow'와의 조합으로 사용되는 경우가 많았다. 따라서 PyTorch를 사용해서 개발된 모델을 TPU 위에서 움직이려면 코드의 대폭적인 수정이 필요했다.

TorchTPU는 이러한 과제에 직접 대응하는 형태로 설계되었으며, 코드의 변경을 최소한으로 억제하면서 PyTorch의 워크로드를 TPU에서 실행할 수 있도록 한다. 대응하는 실행 방식은 '이거 모드'와 '컴파일 모드' 양쪽 모두로, 명령을 한 줄씩 순차 처리하는 사용하기 좋은 방식과 처리 전체를 묶어서 최적화해서 속도를 끌어내는 방식 양쪽을 지원한다. 나아가 여러 TPU를 연계시키는 분산 컴퓨팅이나 TPU의 하드웨어 특성을 살린 최적화 기능도 내장되어 있다.

TorchTPU를 오픈소스로 공개한 것은 개발자 커뮤니티에 대한 넓은 개방을 의미한다. 누구나 코드를 확인하고 개선에 참가할 수 있는 형태로 함으로써 특정 기업의 전유 기술에 머물지 않는 확산이 생겨날 가능성이 있다. PyTorch는 AI 연구자와 개발자 사이에서 사실상의 표준 프레임워크로서의 지위를 지니고 있다고 위치 지어지고 있으며, 그 에코시스템에 TPU라는 새로운 선택지가 더해지는 의미는 작지 않다고 할 수 있다.

AI 모델의 학습·추론에는 막대한 계산 자원이 필요하며, 어느 하드웨어를 사용하는가는 비용과 속도에 직결된다. 현황적으로 GPU 시장에서는 NVIDIA가 압도적인 존재감을 가지고 있지만, TPU는 그 대체로서 주목받는 장면이 증가해 왔다. TorchTPU는 PyTorch 사용자가 TPU를 선택하기 쉽게 하기 위한 다리 역할로 기능하는 것이며, 하드웨어 선택지의 다양화로 이어진다고 위치 지어진다.

앞으로 주목할 점은 실제 개발자 커뮤니티로의 침투도이다. 도구로서 제공되더라도 실용상의 성능과 안정성이 따르지 않으면 채택은 진전되지 않는다. 또한 Google과 Meta라는 경쟁 관계에 있는 기업이 공동으로 오픈소스 기반을 정비하는 동향 자체, AI 인프라의 공통화가 업계 전체의 과제가 되고 있음을 보여주는 한 사례로 읽을 수 있다.