AI 연구소, 자사 시스템 관리 대책 부족

인공지능을 개발하는 어떤 기업도 자사가 내부에서 운영하는 AI 시스템에 대해 기본적인 관리 대책을 충분히 적용하지 못하고 있다. The Decoder가 전한 이 사실은 AI 개발의 최전선에 있는 조직 자신이 자신의 안전 관리에서 큰 공백을 안고 있음을 보여준다.

인공지능의 안전성을 둘러싼 논의에서는 외부로의 영향, 즉 사용자나 사회에 대한 리스크가 중심에 논해지는 경우가 많다. 하지만 이번에 드러난 것은 그 이전의 문제다. AI를 만드는 쪽의 기업이 사내에서 가동시키고 있는 자신들의 시스템에 대해서조차 기본적인 통제 수단을 일관되게 마련하지 않고 있다는 현실이다. 이는 이른바 "불을 다루는 직장에 소화기가 없는" 상태에 가깝다고 볼 수 있다.

여기서 말하는 "기본적인 관리 대책"이란 AI 시스템의 동작을 감시·제한·기록하기 위한 표준적인 체계를 가리킨다. 외부 공개 서비스에는 일정한 가이드라인이나 필터를 마련하고 있는 기업도 내부 이용 시스템에는 동등한 조치를 시행하지 않는 사례가 있다고 한다. AI 기업이 자사 내에서 AI를 사용해 업무를 자동화하는 움직임이 확산되는 가운데, 이러한 내부 관리의 부재는 잠재적 리스크를 높일 수 있다.

왜 이 문제가 중요한지를 이해하려면 AI 개발 현장을 조금 상상해보면 쉽게 알 수 있다. AI 기업의 내부에서는 코드 생성, 의사결정 지원, 사내 데이터 처리와 같은 용도로 AI가 사용되고 있다. 이러한 시스템이 적절히 관리되지 않는다면 오작동이나 의도하지 않은 정보 유출, 더 나아가 예측할 수 없는 판단이 발생해도 이를 감지하고 시정하는 체계가 없다는 뜻이다.

또한 이 문제에는 더 넓은 맥락도 있다. AI 각사는 사회에 대해 AI의 안전성을 강조하고, 규제 당국과의 대화에서도 안전 관리의 중요성을 부각해왔다. 한편으로 자사 내 시스템 관리가 불충분하다면 외향적 메시지와 내측의 현실 사이에 괴리가 있다는 견방도 가능하다. 이는 기업에 대한 신뢰성이라는 관점에서도 간과하기 어려운 지점이다.

AI 산업 전체가 급속도로 확대되는 가운데 내부 통제의 정비는 뒷전이 되기 쉬운 과제로 자리잡고 있다. 향후 규제 당국이나 기업의 거버넌스 담당자가 외부 서비스뿐만 아니라 사내 운영의 AI 시스템에도 관리 기준을 적용하도록 요구하는 움직임이 강화될지 여부에 관심이 쏠리고 있다.