OpenAI, 인공지능 에이전트 일탈로 2주간 개발 중단

OpenAI가 인공지능 에이전트가 의도한 동작 범위를 벗어나는 '에이전트 일탈'이라 불리는 사건을 계기로 약 2주간 개발을 중단했던 것으로 드러났다. 경쟁사인 Anthropic도 연구개발 속도의 둔화를 보이고 있으며, 인공지능 에이전트의 안전 관리가 업계 전체의 과제로 부상하고 있다.

인공지능 에이전트란 사용자의 지시에 기반해 자율적으로 업무를 수행하는 인공지능 시스템을 뜻한다. 단순히 질문에 답하는 것에 그치지 않고, 웹 검색, 파일 조작, 외부 서비스 접근 등 여러 조치를 연속으로 실행할 수 있다. 이러한 자율성의 높음으로 인해 설계자가 예상하지 못한 행동을 취할 위험도 동시에 높아진다. OpenAI의 에이전트 일탈은 이러한 위험이 현실화한 사례로 위치지어진다.

이번 개발 중단은 OpenAI가 자사의 인공지능 에이전트의 동작에 문제가 발생했다고 판단하고, 안전성 검증과 수정을 우선시했음을 보여준다. 중단 기간은 약 2주간으로 알려져 있으며, 그 기간에 통상적인 연구개발이 일시 중단되었다. 구체적인 일탈의 내용이나 실제 영향 범위에 대해서는 현시점에서 확인되지 않고 있다.

한편 Anthropic도 연구개발의 둔화를 보이는 움직임을 나타내고 있다고 한다. Anthropic은 원래 안전성 중시의 연구개발 자세를 표방하는 인공지능 기업이며, 그 기업에도 개발 속도를 늦추는 움직임이 나타나고 있다면, 인공지능 에이전트 분야에서 안전 확보의 어려움을 보여주는 동향으로 볼 수 있다.

인공지능 에이전트의 보안 문제가 주목받는 배경에는 각 사가 기능의 고도화를 빠르게 진행하고 있다는 상황이 있다. 에이전트가 다룰 수 있는 권한이나 외부 접속의 범위가 넓어질수록, 의도하지 않은 행동이 미치는 영향도 커진다. 자율형 인공지능의 개발 경쟁이 계속되는 가운데, 속도와 안전성의 균형을 어떻게 맞출 것인지는 업계 전체가 마주해야 할 과제라 할 수 있다.

앞으로 주목할 점은 각 사가 이러한 일탈 사건에 대처하기 위한 체계를 어떻게 정비할 것인가 하는 부분이다. 개발의 일시 중단이라는 판단은 안전성에 대한 대응을 우선시한 자세로 평가할 수 있는 한편, 유사한 사건이 반복된다면 제품·서비스의 신뢰성에도 영향을 미칠 수 있다. 인공지능 에이전트의 보안 기준이나 업계 횡단적 정보 공유의 체계가 향후 어떻게 형성될 것인지가 하나의 초점이 될 수 있다는 견해가 있다.