Instacart, 장애 조사 AI 어시스턴트 "Blueberry" 개발

식료품 배달 서비스 Instacart가 엔지니어용 AI 어시스턴트 "Blueberry"를 개발했다. 이 도구는 시스템 장애가 발생했을 때 대응을 담당하는 온콜(대기 당번) 엔지니어가 원인 조사를 더욱 빠르게 진행하기 위한 지원 시스템으로 설계되었다.

원래 현대 소프트웨어 서비스에서는 본환경(실제 사용자가 사용하는 시스템)에서 예기치 않은 문제가 발생하는 것이 드물지 않다. 이러한 "인시던트(장애)"가 발생하면 담당 엔지니어는 로그나 메트릭이라 불리는 각종 데이터를 수작업으로 파헤쳐 문제의 근본 원인을 특정해야 한다. 이 조사 작업은 시간이 오래 걸릴 뿐만 아니라 경험과 직관에 의존하는 부분도 크기 때문에 엔지니어의 부담이 과제로 지적되어 왔다. Blueberry는 바로 그러한 "조사 부담을 줄인다"는 목적으로 탄생했다.

Blueberry의 구조는 AI 에이전트·운영 데이터·과거 장애 기록이라는 세 가지 요소를 결합하고 있다. AI 에이전트란 주어진 목적을 향해 자율적으로 정보를 수집하고 판단하는 AI 프로그램을 의미한다. Blueberry는 복수의 서브에이전트를 병행하여 작동시킴으로써 다양한 각도에서 정보를 수집·분석할 수 있다. 또한 MCP(Model Context Protocol)라 불리는 외부 도구 연동 구조도 내장되어 있어 사내의 각종 시스템과 데이터를 원활하게 주고받는다.

분석 결과는 엔지니어가 일상적으로 사용하는 비즈니스 채팅 도구 "Slack" 상에 표시된다. Blueberry는 과거의 유사한 인시던트 기록도 참고하면서 "근본 원인의 가설"을 생성하여 엔지니어에게 제시한다. 중요한 점은 최종적인 판단과 대처는 어디까지나 엔지니어 자신이 수행한다는 것으로, Blueberry는 그 판단을 지원하는 정보를 정리·제공하는 역할에 집중하고 있다는 점이다.

이러한 설계는 AI가 모든 것을 자동으로 해결하는 것이 아니라 인간의 전문 지식을 이끌어내는 "보조 역할"로 기능하도록 한다는 발상에 기초하고 있다고 볼 수 있다. 엔지니어가 평소 익숙하게 사용하는 Slack 내에서 결과를 받을 수 있기 때문에 새로운 도구에 대한 학습 비용을 억제하면서 운영에 통합할 수 있다는 점도 실용성 관점에서 주목할 수 있다.

Instacart와 같은 소비자용 서비스에서는 장애 발생 시 복구 속도가 사용자 경험과 사업 손실에 직결되기 때문에 조사 시간의 단축은 실제 비즈니스상의 과제에 대응하는 것으로 위치 지어진다. 이번 시도는 엔지니어링 조직이 AI를 활용하여 운영 효율을 높이려는 움직임의 한 예로 인식될 수 있다.

Blueberry가 실제로 얼마나 조사 시간을 단축할 수 있는지, 또한 어떤 종류의 인시던트에 대해 유효한지에 관한 정량적 성과에 대해서는 현 시점에서는 공개된 수치가 없다. 향후 이러한 현장 적용의 결과가 공유됨으로써 유사한 과제를 가진 엔지니어링 조직에 참고 사례가 될 가능성이 있다.