Anthropic의 Slack 에이전트, 대화 전체를 읽고 자율적으로 참여

Anthropic은 Slack 채널에 있는 AI 에이전트 "Claude Tag"를 이번 달 업데이트했다. 이를 통해 Claude Tag는 메시지를 하나씩 평가하는 대신 대화 전체의 맥락을 종합적으로 읽을 수 있게 되었다. Anthropic에 따르면, 이 변경으로 Claude Tag가 "언제" "개입하지 않을지"를 포함한 대화 참여 판단의 정확도가 약 30% 향상되었다고 한다.

지금까지 많은 기업용 AI는 사용자가 요청할 때만 동작하는 "문의형" 사용 방식이 중심이었다. 즉, 담당자가 AI에 질문하고 답을 받는 일대일 상호작용이다. Anthropic의 엔터프라이즈 제품 담당 리더인 Scott White는 VentureBeat와의 인터뷰에서 이러한 구조를 "멀티플레이어 AI"로 전환해 나가는 것이 Anthropic의 전략이라고 말했다. 팀을 넘나들며 동작하고, 조직의 맥락을 읽으며, 필요에 따라 스스로 움직이는 AI 에이전트로의 이행이 그들이 추구하는 모습이라고 언급했다.

White는 기업용 AI의 진화를 세 가지 단계로 정리한다. 첫 번째 단계는 코드 한 줄을 자동완성하는 것처럼 "작업의 일부"를 담당하는 단계다. 두 번째는 함수 전체를 작성하거나 리서치 보고서를 작성하는 등 "작업 전체"를 완수하는 단계다. 그리고 현재는 "목표 또는 달성해야 할 골"을 주면, AI가 여러 데이터 소스를 연결하면서 백그라운드에서 자율적으로 동작하는 세 번째 단계에 접어들고 있다고 한다. "제품의 버그 제로 유지" "법무의 NDA 검토 프로세스 가속화" 같은 더욱 추상적인 조직 목표를 다룰 수 있는 수준에 도달하고 있다고 그는 밝혔다.

이러한 "목표 지향"으로의 전환이 AI를 팀이 함께 사용하는 것으로 변화시킨다고 White는 설명한다. 작업과 달리 목표는 본질적으로 여러 인간이 관여하기 때문이다. 더불어 그는 지식노동과 소프트웨어 개발의 차이점을 언급한다. 소프트웨어 개발에는 Git이나 풀 리퀘스트 같은 오랜 협업 기반이 있지만, 지식노동에는 그것이 없다. "지식노동은 소프트웨어 개발보다 훨씬 더 복잡하다. 여러 사람, 여러 직종, 다양한 권한을 가진 여러 시스템이 얽혀 있다. 게다가 산출물이 올바른지 여부는 코드처럼 컴파일이나 테스트로 확인할 수 없다. 인간의 판단이 필요하다"고 그는 언급했다.

이번 Claude Tag의 업데이트는 이러한 맥락에서 보면 단순한 기능 개선에 그치지 않는 의미를 갖는다. White는 "이전의 Claude는 개인의 비서 같은 존재였다. 하지만 지금 조직에 배포되는 Claude는 회사 전체의 비서가 되어가고 있다"고 표현했다. 즉, AI를 도구로서 "사용"하는 것에서 조직의 구성원으로서 "운영"하는 것으로의 전환을 Anthropic이 명확하게 추구하고 있다는 의미다.

한편, AI가 부름을 받기 전에 스스로 대화에 개입한다는 기능은 편의성과 동시에 "개입의 적절성"이라는 질문도 낳는다. 이번 개선이 강조하는 것은 정확도 향상이지만, 언제 침묵해야 하는지를 정확히 판단하는 능력 자체가 직장에서의 AI 수용에 있어 중요한 요소로 자리 잡혀 있다. Anthropic이 엔터프라이즈 대상으로 "팀 규모의 AI"를 본격적으로 전개하려는 중에, 인간과 AI의 협업 설계가 어느 정도까지 연마되어 갈지가 향후 주목할 점이라 할 수 있다.