Microsoft, MAI 모델의 행동 규범 공개

Microsoft는 자사가 개발하는 인공지능 모델군 "MAI"에 적용하는 행동 규범(코드 오브 컨덕트)을 공개했다. 이 규범은 모델의 자율성이나 성능보다 인간에 의한 제어를 우선하는 것을 기본 방침으로 명확히 위치시키고 있다.

인공지능 분야에서는 최근 대규모 언어 모델의 능력이 빠르게 향상되고 있으며, 각 기업이 모델의 윤리적 취급 방식과 개발 지침을 문서화하려는 움직임이 확산되고 있다. 이러한 흐름 속에서 Microsoft가 이번 규범을 공개한 것은 개발 방침을 사외에 대해 명시한다는 의미에서 주목할 만하다.

규범의 내용 중 특히 눈에 띄는 것은 인공지능 모델에 "내면적 삶"이나 의식의 존재를 인정하지 않는다는 입장이다. 모델이 어떤 감정이나 주관적 체험을 가지고 있는 것처럼 행동하거나, 그러한 주장을 하는 것을 Microsoft는 명확히 부정하고 있다. 또한 모델에 권리를 부여하는 것도 인정하지 않는 방침을 보였다. 더욱이 사고 프로세스를 인간이 확인할 수 있는 형태로 "읽을 수 있도록" 만드는 것도 요구하고 있으며, 투명성의 확보가 중시되고 있다.

Microsoft의 AI 부문을 이끄는 무스타파 슬레이만은 "안전하지 않은 것은 만들어서는 안 된다"고 밝혔으며, 안전성을 개발의 전제 조건으로 위치시키는 자세를 명확히 했다. 슬레이만은 DeepMind의 공동 창업자로도 알려져 있으며, 인공지능 안전성 논의에서 중요한 인물 중 한 명이다.

이러한 입장은 경쟁사인 Anthropic의 방침과는 다르다. Anthropic은 자사의 인공지능 모델에 대해 어떤 "내적 상태"의 가능성을 완전히 부정하지 않는 자세를 보이고 있으며, 두 회사 간에 철학적·윤리적 접근 방식에 차이가 있다. Microsoft는 인공지능의 주체성에 관해 보다 명확히 "없다"고 단정하는 입장을 택했다고 볼 수 있다.

인공지능 모델의 의식이나 권리에 관한 논의는 여전히 학술적·철학적 영역에 속하는 주제이지만, 인공지능 시스템이 사회에 널리 보급됨에 따라 기업이 이 문제에 어떻게 답하는지는 제품 설계와 규제 대응에도 영향을 미칠 수 있는 문제가 되고 있다. Microsoft가 행동 규범이라는 구체적인 문서 형태로 입장을 명시한 것은 그러한 문제에 대한 하나의 답변이라고 할 수 있다.

향후 이 규범이 MAI 모델의 실제 개발·운영에 어떻게 반영될지가 초점이 될 것이다. 또한 다른 대형 인공지능 기업이 유사한 문서를 공개할지 여부도 업계 전체의 방향성을 보는 데 주목할 만한 점이라고 할 수 있다.