기업 AI의 과제, 기술에서 운용 관리로

AI의 성능이 향상될수록 기업이 직면하는 과제의 성질이 변하고 있다. 과거에는 AI를 「사용 가능하게 하는 것」이 최대의 벽이었지만, 이제는 모델의 관리, 데이터의 취급, 접근 권한의 제어, 거버넌스(조직으로서의 AI 이용의 통치)와 같은 운용 측면의 문제가 기업의 AI 활용에서 본질적인 난제로 떠오르고 있다.

배경에는 AI 도구의 도입이 일부 선진적인 부서에 머물지 않고 기업 전체로 확산되었다는 사정이 있다. 이용자가 늘어나고 용도가 다양화하면 「누가 어떤 데이터에 접근할 수 있는가」「어떤 모델을 무엇의 목적으로 사용할 것인가」와 같은 관리 체계가 필수가 된다. 즉, 전기나 수도와 같이 AI도 「인프라로서 관리하는」단계에 진입했다고 볼 수 있다.

구체적으로 과제로 지적되는 것은 주로 네 가지 영역이다. 첫 번째는 모델 관리로, 복수의 AI 모델을 어떻게 선택하고, 갱신하고, 운용할 것인가 하는 문제다. 두 번째는 데이터 관리로, AI에 학습·참조시키는 정보의 품질과 범위를 어떻게 유지할 것인가 하는 점이다. 세 번째는 권한 관리로, 사내의 누가 어떤 AI 기능을 사용할 수 있는지를 제어하는 체계의 정비다. 그리고 네 번째가 거버넌스로, AI의 이용 규칙과 책임의 소재를 조직으로서 명확히 하는 것이다.

이들 문제는 개별 AI 도구의 성능과는 별개의 문제다. 아무리 우수한 모델을 도입해도 데이터 관리가 부실하면 정보 유출이나 잘못된 출력으로 이어질 수 있다. 또한 권한 설계가 불충분하면 기밀 정보가 의도하지 않게 널리 참조되는 상황이 생긴다. 기술적 정확도가 올라갈수록 운용의 불비가 주는 위험도 커진다는 역설적 측면이 있다.

이 과제는 이른바 「IT 거버넌스」의 문제와 구조적으로 유사하다. 과거 기업이 클라우드나 모바일을 도입할 때도 유사한 운용 관리의 정비가 나중에 요구되었다. AI도 지금 같은 길을 따라가는 단계에 있다고 위치지을 수 있다. 다만 AI는 데이터와의 결합이 강하고 출력의 설명 책임이 문제되기 쉽기 때문에 종래의 IT 시스템 이상으로 정교한 거버넌스가 필요하다는 견해가 가능하다.

기업이 AI 운용의 관리 체제를 정비할 수 있는지 여부는 향후의 AI 활용의 깊이를 좌우하는 요인이 된다. 특히 AI가 업무의 의사 결정에 깊게 관여하게 될수록 「누가 어떤 판단 근거로 AI를 사용했는가」를 추적할 수 있는 체계의 중요성은 증가한다. 기술 선정뿐만 아니라 조직 설계와 사내 규칙의 정비를 포함한 「AI의 운용 인프라」를 어떻게 구축할 것인가가 다음의 경쟁축이 될 것으로 생각된다.

앞으로 주목할 점은 이러한 운용 과제에 대응하기 위한 도구와 관리 플랫폼의 동향이다. 모델의 선정과 권한 관리를 일원화하는 솔루션에 대한 수요는 높아질 것으로 보이며, AI 활용의 「기술의 문제」에서 「조직의 문제」로의 이행은 기업의 IT 부서나 CIO에게 새로운 우선 과제로 위치지어질 가능성이 있다.