Google, 온디바이스 AI용 GPU 기반 「ML Drift」 공개

Google은 기기 위에서 AI 모델을 구동하기 위한 오픈소스 GPU 컴퓨팅 엔진 「ML Drift」를 공개했다. Apache 2.0 라이선스로 제공되고 있으며, 누구나 자유롭게 이용하고 수정할 수 있다. 이 도구는 스마트폰이나 PC 등의 기기 위에서 AI 추론(학습된 모델이 결과를 출력하는 처리)을 효율적으로 실행하도록 설계되었다.

AI 처리는 지금까지 클라우드 서버에 전송하여 수행하는 것이 주류였다. 그러나 최근에는 기기 내에서 직접 AI를 구동하는 「온디바이스 AI」에 대한 관심이 높아지고 있다. 통신 지연이 없고 개인정보 보호 측면에서도 유리하기 때문이며, 스마트폰이나 노트북에 탑재되는 기능으로서 확산이 진행 중이다. 이러한 움직임 속에서 ML Drift는 그 실현을 뒷받침하는 인프라 계층의 도구로 위치 지어진다.

ML Drift가 해결하려고 하는 과제는 GPU(화상처리 칩)의 다양성이다. 스마트폰용 Android 기기, iPhone이나 Mac, 브라우저 상의 실행 환경 등 기기마다 GPU의 종류와 이를 제어하는 저수준 API(프로그램이 하드웨어를 조작하기 위한 접속 포트)가 제각각이어서, 개발자는 각각에 대응한 코드를 작성해야 했다. ML Drift는 이러한 복잡성을 흡수하여, 그 차이를 개발자가 인식하지 않아도 되도록 설계되었다.

대응하는 API는 OpenGL ES, OpenCL, Metal, WebGPU의 4가지로, 주요 플랫폼을 거의 망라하는 구성이 되어 있다. OpenGL ES는 Android 등 모바일용이고, Metal은 Apple 기기용이며, WebGPU는 브라우저 상의 실행에 대응하는 규격이다. OpenCL은 범용 병렬 계산에 사용되며, 광범위한 GPU 환경에 대응할 수 있다.

개발자 관점에서 보면 ML Drift의 의의는 「한 번 작성한 코드를 많은 기기에서 동작시킬 수 있다」는 점이다. 지금까지는 기기별 최적화에 막대한 공수가 필요했지만, ML Drift를 사용하면 그 부담이 대폭 경감된다는 평가가 가능하다. AI 앱이나 모델의 개발 사이클을 단축하고, 더욱 많은 기기로의 배포를 현실화하는 도구가 될 수 있다.

오픈소스로 공개된 점도 중요한 포인트다. Apache 2.0 라이선스는 상용 이용을 포함해 제한이 적으며, 기업·개인·연구 기관을 막론하고 널리 활용할 수 있다. Google이 AI 추론의 기반이 되는 도구를 개방적으로 제공함으로써, 에코시스템 전체에서 온디바이스 AI의 보급을 촉진하려는 자세로도 읽을 수 있다.

온디바이스 AI는 스마트폰 제조사나 반도체 기업이 주력하는 영역이기도 하며, 향후에는 ML Drift 같은 「멀티플랫폼 대응 추론 기반」이 경쟁의 초점 중 하나가 될 가능성이 있다. 특히 기기의 종류가 증가할수록 ML Drift 같은 추상화 계층의 가치는 높아지므로, 실제 개발자 커뮤니티에서의 채택 상황과 다른 프레임워크와의 연계 동향이 향후의 주목점이 된다.