Google, 기기용 머신러닝 개발 API 공개

Google은 머신러닝 모델을 기기 위에서 직접 실행하기 위한 경량 C++ 라이브러리인 'LiteRT Tensor API'를 공개했다. 이 API를 사용하면 개발자는 클라우드에 의존하지 않고 스마트폰이나 임베디드 기기 등의 기기 내에서 모델의 구축·커스터마이징·최적화를 수행할 수 있다.

먼저 '온디바이스 AI'란 추론 처리를 서버가 아닌 손에 들고 있는 기기에서 완결시키는 체계를 가리킨다. 클라우드를 경유하는 경우 네트워크 지연이나 프라이버시 우려가 발생하기 쉬운 반면, 온디바이스에서는 응답 속도 향상과 데이터의 기기 내 완결이 쉽게 실현된다. 이러한 배경에서 스마트폰이나 IoT 기기용 경량 AI 실행 환경에 대한 수요는 최근 계속해서 증가하고 있으며, LiteRT Tensor API는 이러한 흐름에 대응하는 위치에 있는 것으로 보인다.

Google에 따르면 LiteRT Tensor API의 특징은 모델을 처음부터 작성할 수 있는 기본적인 유연성과 서로 다른 OS·하드웨어를 걸쳐 실행할 수 있는 크로스플랫폼 이식성을 양립하고 있다는 점이다. 기반이 되는 언어로 C++를 채택하고 있으며, 성능을 중시한 구현이 필요한 상황에서도 대응할 수 있는 설계가 되어 있다.

이 API가 중요한 이유는 개발자가 단일 코드베이스로 여러 플랫폼에 대응한 온디바이스 모델을 만들 수 있다는 점이다. 지금까지는 대상 환경마다 구현을 다시 작성해야 하는 번거로움이 있었지만, 이식성을 갖춘 API가 있으면 개발 비용 절감으로 이어질 것으로 생각된다. AI를 기기 내에서 실행하는 사용 사례가 확산되는 중에 도구 정비가 선행하고 있는 점은 에코시스템 형성이라는 관점에서도 주목할 가치가 있다고 할 수 있다.

향후 개발자 커뮤니티가 LiteRT Tensor API를 어떤 애플리케이션에 활용할지가 이 API의 실질적 가치를 측정하는 지표가 될 것이다. 특히 기존 온디바이스 추론 프레임워크와의 비교나 실제 기기에서의 성능·소비 전력 검증 결과가 채택 확대의 열쇠를 쥐고 있다는 관점을 할 수 있다. Google이 앞으로 어느 정도 수준의 지원이나 문서를 정비하는지에도 계속 주목할 필요가 있다.