Perplexity, 자사 개발 데이터베이스로 쿼리 지연 대폭 감소

AI 검색 서비스를 운영하는 Perplexity는 그동안 사용해 온 Amazon의 데이터베이스 서비스 'DynamoDB'에서 자사 개발 키·값형 데이터 저장소 'CobbleDB'로의 이전을 완료했다. CobbleDB는 Rust라는 프로그래밍 언어로 개발되었으며, 대량의 문서를 일괄 처리할 때의 쿼리 지연을 대폭 감소시키는 동시에 클라우드 스토리지에 드는 비용 절감도 실현하고 있다.

Perplexity는 빠르게 성장하는 AI 검색 서비스로서, 방대한 검색 쿼리를 매일 처리하고 있다. 이용자가 증가함에 따라 데이터베이스의 응답 속도와 비용 효율이 서비스 품질과 직결되는 과제가 되었으며, 기존 클라우드 서비스만으로는 대응하지 못하는 상황도 나타나기 시작했다. 이러한 배경 속에서 동사는 자사의 워크로드에 최적화된 데이터베이스를 내재화하기로 결정했다.

CobbleDB는 키·값형 데이터 저장소로, 특정 키에 대응하는 값을 고속으로 읽고 쓰는 메커니즘에 특화되어 있다. 개발에는 Rust가 채택되었으며, 메모리 관리의 안전성과 처리 속도를 양립할 수 있다는 점이 Rust의 특징이다. 이번 이전으로 큰 문서를 정리해서 다루는 처리에서 쿼리의 지연이 개선되었을 뿐만 아니라 스토리지 비용 절감도 확인되었다. 동사는 이 새로운 아키텍처가 대규모 본 운영 트래픽을 효율적으로 처리할 수 있다고 설명하고 있다.

자사 인프라의 내재화는 대형 테크 기업이 추진해 온 접근 방식이지만, 스타트업 단계의 기업이 본격적으로 추진하는 사례는 아직 많지 않다. Perplexity가 이 단계에서 데이터베이스 계층을 자사 개발로 전환한 점은, 동사가 규모 확대의 속도와 서비스 품질의 양립을 중시하고 있음을 보여준다고 할 수 있다. 기존 클라우드 서비스는 도입의 편의성에 우수한 반면, 특정 처리 패턴에서는 맞춤형 구현이 성능면·비용면에서 더 유리한 경우가 있으며, 이번 이전은 그 사례라고 할 수 있다.

AI 검색 시장에서는 응답 속도가 사용자 경험에 직접 영향을 미치는 중요한 지표다. 검색 결과 생성에 AI 모델의 추론 처리가 추가되므로, 데이터베이스 계층의 지연이 병목이 되기 쉽다. 쿼리 지연을 감소시킴으로써 최종적으로 이용자가 체감하는 검색 속도에도 긍정적인 영향이 미친다고 볼 수 있다.

향후 주목할 점은 CobbleDB의 운영이 더욱 대규모 트래픽에서도 안정적으로 기능하는지 여부다. 내재화된 데이터베이스는 커스터마이즈의 자유도가 높은 반면, 보수·운영의 노하우를 사내에 계속 축적할 필요가 있다. Perplexity가 향후 이 방향으로 인프라 자사 개발을 계속할 것인지, 아니면 다른 영역에서는 기존 서비스를 활용하면서 하이브리드 구성을 취할 것인지가, 동사의 엔지니어링 전략을 파악하는 데 있어 관찰 대상이 될 것이다.