AI 에이전트는 제안 역할, 의사결정은 인간이 담당

AI가 모델 개발의 작업을 대폭 담당하는 한편, 최종 판단은 여전히 인간이 주도하고 있다. 어느 연구팀이 자사 AI 모델 구축 기록을 자세히 분석한 결과 이러한 실태가 드러났다. 팀은 769건에 달하는 작업의 로그를 대상으로 AI 에이전트가 얼마나 자율적으로 움직이는지를 조사했다.

분석 결과, 방법 제안이라는 장면에서는 AI 에이전트가 최대 55%를 담당하고 있었다. 즉, "다음에 어떻게 할 것인가"라는 아이디어의 절반 이상을 AI가 제시했다는 계산이 된다. 한편 최종적으로 "이것을 채택한다"고 결정하는 의사결정의 85% 이상은 인간이 수행했다. 제안과 결정 사이에 큰 격차가 있다는 것이 수치로 나타난 형태다.

더욱 주목되는 것은 전체 작업의 약 3분의 1이 AI 에이전트의 지원이 없었다면 애초부터 착수되지 않았을 것이라고 연구팀이 판단하고 있다는 점이다. 이는 AI가 작업의 효율화에 그치지 않고, 인간만으로는 손이 미치지 않았던 시도를 가능하게 한다는 의미로, 정량적 기여도의 크기를 보여준다.

AI의 연구·개발 현장에서는 근래 여러 작업을 자율적으로 수행하는 "AI 에이전트"의 활용이 확대되고 있다. 대규모 언어 모델(LLM)의 정확도 향상에 따라 데이터 수집이나 실험 계획 수립 같은 작업을 에이전트에 맡기는 사례가 증가하고 있으며, 개발 효율 개선 수단으로 기대를 모으고 있었다. 이번 연구는 그러한 현장의 실태를 체계적으로 기록한 사례로 위치지어진다.

하지만 연구팀은 활동량과 자율성을 혼동하지 않도록 주의를 당부하고 있다. AI 에이전트가 관여하는 작업 수가 증가해도, 그것이 반드시 AI가 "스스로 생각하고 움직이는" 비율이 증가했음을 의미하지는 않는다는 것이 팀의 지적이다. 제안을 내는 역할과 최종 판단을 내리는 역할은 지금도 명확하게 분리되어 있다.

이러한 통찰은 AI 개발의 관리 체계를 고려하는 데 있어 중요한 시사점을 제공한다. 자동화가 진행되는 현장에서는 "AI에 맡기면 자동으로 진행된다"는 오해가 쉽게 발생하지만, 실제로는 인간의 판단이 계속해서 병목이 된다는 구도가 구체적인 데이터로 뒷받침되었다. AI 에이전트의 활용 확대를 검토하는 조직에 있어 어디를 자동화하고 어디를 인간이 담당할 것인지라는 역할 설계의 중요성을 다시 한 번 보여주는 내용이라 할 수 있다.

향후 AI가 제안에 그치지 않고 결정까지 담당하는 영역이 어떻게 확대될 것인지, 혹은 확대해야 할 것인지에 대한 논의가 활발해질 것으로 보인다. 이번과 같은 실태 조사의 축적이 자율형 AI의 적절한 도입 범위를 판단할 때의 근거로 기능한다는 견해가 있다.