프랑스 스타트업 ZML, AI 추론 고속화 소프트웨어 무료 공개

프랑스의 AI 스타트업 'ZML'이 AI 모델의 추론 처리를 여러 종류의 AI 칩 위에서 효율적으로 동작시키기 위한 소프트웨어 'ZML/LLMD'를 무료로 공개했다. 동사는 튜링상 수상자인 얀 르쿤 박사가 지지하고 있는 것으로도 알려져 있으며, 이번 공개는 AI 운영 비용 절감으로 이어지는 노력으로 주목을 받고 있다.

AI 모델을 실제로 동작시키는 '추론'의 과정은 학습과 함께 막대한 계산 자원을 필요로 한다. 특히 대규모 모델을 본번 환경에서 지속적으로 가동시키는 경우, 칩의 선정이나 최적화에 드는 비용과 공수가 기업에 있어 큰 과제가 된다. 지금까지는 특정 제조업체의 칩을 위해 개별 최적화할 필요가 있는 경우가 많았고, 여러 종류의 서로 다른 하드웨어를 횡단하여 효율적으로 재활용하기가 어려운 상황이었다.

ZML/LLMD는 이러한 문제에 대응하는 소프트웨어로, 여러 AI 칩에 걸쳐 추론 처리를 실행할 수 있는 설계를 채택하고 있다. 무료로 제공되는 점도 특징이며, 개발자와 기업이 비용을 들이지 않고 시도할 수 있는 낮은 진입장벽을 의식한 공개 형태라고 할 수 있다. 동사는 프랑스 발의 스타트업으로서, 구미의 AI 산업에서도 존재감을 높이고 있는 기업 중 하나이다.

ZML을 지지하는 얀 르쿤 박사는 딥러닝 연구의 공적으로 튜링상(컴퓨터 과학 분야의 최고 영예로 불리는 상)을 수상했으며, 현재 Meta의 최고 AI 과학자를 맡고 있는 인물이기도 하다. 저명한 연구자로부터의 지지는 스타트업의 신뢰성이나 기술력의 입증으로 업계 내에서 받아들여지는 경우가 많으며, ZML의 인지도 향상에도 기여하고 있는 것으로 보인다.

AI 추론의 효율화는 모델의 정확도 향상과는 별개의 축으로 산업 전체가 취조하는 과제로 위치지워진다. 클라우드를 거치지 않고 온프레미스(자사 설비)나 다양한 엣지 디바이스에서 AI를 동작시키고 싶은 니즈가 높아지는 가운데, 특정 칩에의 의존을 줄이는 소프트웨어층의 정비는 중요성이 증가하고 있다. ZML/LLMD 같은 범용적인 어프로치가 어느 정도까지 실용적인 성능을 발휘할 수 있는지는 향후의 검증에 달려 있다는 견해를 할 수 있다.

향후 주목해야 할 점은, 대응하는 칩의 종류나 실제의 추론 속도·비용 절감 효과가 실환경에서 어느 정도 확인되는가일 것이다. 무료 공개에 의해 개발자 커뮤니티로부터의 피드백이 모이기 쉬워지므로, 소프트웨어의 개선 사이클이 빨라질 가능성도 있다. ZML이 오픈한 형태로의 기술 제공을 선택한 배경에는, 우선 널리 보급시킴으로써 업계 내에서의 표준적인 지위를 목표로 한다는 전략적 의도가 있다고 생각된다.