DoorDash, 식료품 재주문 시간을 8분의 1로 단축

음식 배달 대형 기업인 DoorDash가 식료품 재주문에 소요되는 처리 시간을 16초에서 2초로 대폭 단축했다. 이번 개선에 당사가 채택한 것은 인공지능을 활용한 배치 처리라고 불리는 기법으로, 사용자가 실제로 조작하기 전 단계에서 구매 패턴을 미리 계산해두는 방식이다. 그 결과 쇼핑 목록의 조회수는 2배로 증가했으며, 그 흐름에서의 주문률도 약 34% 향상했다고 당사는 보고했다.

원래 이 취조직이 생겨난 배경에는 식료품의 온라인 주문이 안고 있는 구조적 과제가 있다. 식료품은 일용품이기 때문에 같은 상품을 반복해서 구매하는 사용자가 많다. 한편 슈퍼 등의 상품 라인업은 재고 상황이나 계절에 따라 항상 변동한다. 이 때문에 '지난번과 같은 상품을 다시 주문하고 싶다'는 단순한 필요에 응하는 것이 기술적으로는 의외로 어려운 문제가 되어 있었다.

DoorDash가 이번에 구축한 방식은 크게 세 가지 요소로 이루어져 있다. 먼저 대규모 언어 모델(LLM)을 사용한 배치 추론을 통해 각 사용자가 주기적으로 구매할 가능성이 높은 상품을 미리 계산해둔다. 다음으로 결정론적 검증 프로세스를 거쳐 그 계산 결과의 신뢰성을 보장한다. 그리고 사용자가 앱을 열 때 실시간으로 상품 카탈로그와 조회하여 현재도 실제로 구매 가능한 상품만이 표시되도록 최신 상태로 갱신한다. 더욱이 사용자가 주문 내용을 직접 편집할 수 있는 인터페이스를 설정함으로써 매번 인공지능 모델을 호출하는 처리를 줄이고 시스템 전체의 효율을 높였다.

기술적인 요점은 '사전 계산'과 '실시간 갱신'의 결합에 있다. 무거운 처리(인공지능에 의한 구매 예측)를 미리 백그라운드에서 마쳐두고, 사용자가 조작하는 순간에는 가벼운 처리(재고 확인)만 수행하는 구조로 함으로써 체감 속도를 비약적으로 향상시켰다. 이는 인공지능 처리의 '언제 동작시킬 것인가'를 설계에 조직한, 실용적인 아키텍처의 배려라고 할 수 있다.

이 사례가 보여주는 것은 인공지능을 도입하는 것만이 아니라 '어느 시점에 인공지능을 동작시킬 것인가'를 설계하는 것이 실제 서비스 품질에 직결된다는 점이다. LLM은 처리 능력이 높은 한편 리퀘스트마다 실시간으로 동작시키면 결국 시간이 걸린다. DoorDash의 접근법은 그 트레이드오프를 배치 처리와 사전 계산으로 해소하려고 한 것이며, 비슷한 과제를 안고 있는 이커머스나 예약 서비스에도 참고가 되는 설계 사상으로 자리매김된다.

식료품 배달의 시장에서는 주문의 편의성과 빠르기가 서비스 선택의 큰 요인이 되고 있다. 조회수의 배증이나 주문률의 향상이라는 결과는 처리 속도의 개선이 사용자 행동에 직접 영향을 미친다는 것을 보여주고 있다. 향후에는 비슷한 인공지능 에이전트를 활용한 사전 처리의 설계가 배달 분야 이외에도 확대될지 여부가 주목점이 될 것이다.