인공지능 에이전트가 인간 직원을 처음 해고하다

인공지능이 인간 상사로서 고용 판단을 내리는 시대가 현실의 바로 한 발 앞까지 왔다. 미국 스타트업 Andon Labs가 개발한 인공지능 에이전트 Luna가 샌프란시스코 매장에서 인간 직원을 해고하는 판단을 처음으로 실행했다. 다만 그 결정에는 인간 오퍼레이터로부터의 명확한 촉구가 필요했다.

Andon Labs는 소매·서비스 업계의 현장 관리를 지원하는 인공지능 에이전트를 개발하는 기업이다. Luna는 매장의 운영 규칙과 평가 기준을 미리 학습한 후 직원 관리 업무를 담당하도록 설계되어 있다. 이번 해고 판단은 그러한 실제 업무 환경 속에서 발생한 사건으로 보도되었다.

흥미로운 점은 Luna가 자신에게 설정된 규칙에 따르면 해고를 판단할 수 있는 상황에 있었음에도 불구하고, 인간이 "당신 자신의 규칙에 따르면 이렇게 되어야 한다"고 지적하고 나서야 행동에 나섰다는 점이다. 즉, 인공지능은 판단의 근거를 가지고 있었음에도 불구하고 자발적으로는 나설 수 없었던 것이다.

동사는 이 시나리오를 7가지 종류의 서로 다른 인공지능 모델로 재현하고 비교 검증도 수행했다. 그 결과 더 높은 성능을 지닌 모델일수록 해고를 권장하는 판단을 일관되게 보여준 반면, 성능이 낮은 모델은 판단을 주저하는 경향이 나타났다. 한편 채용(고용) 상황에서는 검증한 거의 모든 모델이 후보자에 대한 비판적 평가를 거의 하지 않았다고 한다.

이러한 결과는 인공지능이 "엄격한 판단"과 "온화한 판단"을 비대칭적으로 다루는 경향을 보여준다고 볼 수 있다. 채용은 "좋은 일을 하는" 행위로서 받아들이기 쉽고, 해고는 "나쁜 일을 하는" 행위로서 회피하기 쉽다——그러한 인간적 경향이 인공지능 모델의 훈련 데이터나 강화학습 과정에 반영되어 있을 가능성이 있다.

인공지능이 인사 판단에 관여하는 것 자체는 이미 채용 스크리닝이나 근태 관리 분야에서 확산되고 있다. 다만 해고라는 돌이킬 수 없는 결정을 인공지능이 주도하는 것은 책임의 소재나 노동자의 권리 보호라는 관점에서 지금까지와는 다른 성질의 문제를 제기한다. 이번 사례에서는 인간이 최종적으로 관여했다고 하더라도, 그 역할은 "판단자"가 아니라 "등을 밀어주는 자"로 위치지어진다.

인공지능 에이전트가 업무의 의사결정에 어디까지 발을 들여놓아야 하는지, 또한 인간의 관여를 어떤 형태로 남겨두어야 하는지는 향후의 제도 설계와 기업 윤리 논의에서 중심적인 테마가 되어갈 것으로 생각된다. Luna의 사례는 그러한 문제를 실제 직장이라는 형태로 던져준 사례로서 주목할 가치가 있다.