Microsoft, 인공지능 거버넌스를 실행 시점에 자동으로 적용하는 구조 공개

Microsoft는 인공지능 시스템 운영 중에 거버넌스 요건을 실시간으로 적용·검증하기 위한 새로운 아키텍처를 발표했다. 이 아키텍처는 9개의 거버넌스 영역과 정책·제어·가시화·증명이라는 4가지 기능으로 구성되어 있으며, 인공지능 애플리케이션과 인공지능 에이전트가 실제로 가동하는 상황에서도 조직이 거버넌스 요건을 확인할 수 있도록 설계되었다.

지금까지 많은 조직에서는 인공지능 활용에 관한 규칙을 문서로 정하고 사후에 확인·감시하는 방식이 주류였다. 그러나 생성형 인공지능과 인공지능 에이전트의 확산으로 인공지능이 자율적으로 판단·행동하는 장면이 증가하고 있으며, 사후 확인으로는 대응이 따라잡지 못하는 사례가 발생하고 있다. 규칙을 설정해도 그것이 실제 동작에 어떻게 반영되는지를 실시간으로 파악하는 것이 많은 기업에게 과제가 되어 있었다.

Microsoft가 제시한 아키텍처는 정책을 실행 시점의 제어와 직접 연결하는 구조를 채택하고 있다. 구체적으로는 지속적인 평가, 관측 가능성(시스템 내부의 동작 상황을 파악하는 구조), 신원 관리, 보안, 그리고 감시 기록 생성이 일련의 흐름으로 통합되어 있다. 이를 통해 인공지능이 작동 중에도 규칙 준수 상황을 추적하고 증거로 기록할 수 있다.

특히 주목되는 것은 '증명'이라는 기능의 위치 설정이다. 거버넌스 요건을 충족하고 있다는 증거를 지속적으로 생성하는 구조를 내포함으로써, 규제 당국이나 내부 감시에 대해 사실에 기초한 설명 책임을 이행하기가 쉬워진다. 문서에 의한 규칙 설정뿐만 아니라 실제 운영 상황을 기록·제시할 수 있다는 점은 법규 대응이라는 관점에서도 실용성이 높다고 위치 지어진다.

인공지능 거버넌스를 둘러싸고는 각국·지역에서 규제 정비가 진행되고 있으며, 기업에는 투명성 확보와 기록 보유가 요구되는 장면이 증가하고 있다. 그 중에서 Microsoft가 내놓은 이번 접근법은 거버넌스를 '방침을 정하는' 단계에서 '시스템이 작동하는 곳에서 자동으로 적용·기록하는' 단계로 이행시킨다는 방향성을 보여주고 있다.

향후 주목점은 이 아키텍처가 실제로 어떠한 제품이나 서비스로 제공될 것인지, 그리고 다른 기업이나 업계가 어떻게 채택·참고할 것인지라는 점이다. 인공지능 에이전트가 복수의 업무를 횡단하여 작동하게 될수록 실행 시점의 거버넌스 적용의 중요성이 증대한다는 관점을 가질 수 있다. Microsoft의 움직임은 업계 전체의 거버넌스 표준화 논의에도 영향을 미칠 가능성이 있다.