인공지능 안전성과 경쟁 압력, 기업의 대응 촉구

인공지능 개발을 둘러싼 안전성 확보와 경쟁력 유지라는 두 가지 요구가 기업에게 양립하기 어려운 문제가 되고 있다. 그 배경에는 미국과 중국 사이에서 심화되는 지정학적 경쟁이 있다. 이러한 대립이 인공지능의 안전성을 둘러싼 판단을 복잡하게 만들고 있다는 견해가 산업계와 정책 현장에서 확산되고 있다.

인공지능의 안전성이란 모델이 잘못된 정보를 생성하거나 의도하지 않은 용도로 사용될 위험을 최소화하는 노력을 의미한다. 개발자는 원래 이러한 위험의 검증에 충분한 시간을 투자해야 한다고 알려져 있다. 그러나 경쟁사나 타국에 먼저 선점당할 수 있다는 초조감이 그 검증 기간을 단축시키는 압력으로 작용하기 쉬운 구조가 존재한다.

미중 간의 경쟁은 이 문제를 더욱 심각하게 만드는 요인으로 위치지어진다. 한쪽이 안전성 기준을 엄격하게 지키려 하면, 다른 한쪽이 시장이나 기술적 우위를 선점할 가능성이 있기 때문이다. 이러한 상황에서는 안전성 투자가 경쟁상의 '지연'으로 보일 수 있다. 결과적으로 업계 전체에서 안전 기준이 완화되는 방향으로 끌려갈 위험이 있다는 견해를 제시할 수 있다.

기업에게 현실적인 대응이 요구되는 것은 이러한 '안전성의 여유가 축소되는 국면'에서이다. 위험 관리의 관점에서 인공지능 도입 속도와 안전성 평가의 철저함을 어떤 균형으로 설정할 것인가가 경영상의 중요 과제로 부각된다. 특히 기업이 외부의 인공지능 서비스를 활용할 경우, 그 모델이 어떤 안전 기준 하에서 개발·제공되고 있는지 확인할 수단이 제한되는 경우가 많다.

이 문제는 규제 논의와도 밀접하게 연관되어 있다. 정부가 안전 기준을 의무화하면 경쟁 조건을 일정하게 유지하는 효과가 있는 한편, 규제 설계가 특정 지역이나 기업에 유리하게 작용할 가능성도 부정할 수 없다. 국제적인 안전 기준의 통일이 진전되지 않은 상태에서 경쟁만 가속화되면, 위험의 '하향 경쟁'이 일어나기 쉬워진다는 우려도 지적되고 있다.

기업이 지금 할 수 있는 대응으로, 자사의 인공지능 이용 방침에 안전성 평가 프로세스를 명문화해 두는 것이 하나의 현실적인 선택지로 꼽힌다. 또한 도입하는 인공지능 도구나 외부 모델의 제공자가 공개하는 안전성 관련 정보를 정기적으로 확인하고, 그 내용을 조달 판단에 반영하는 체계를 마련하는 것도 효과적이라고 생각된다. 경쟁 환경이 어떻게 변화하든 자사의 기준을 갖는 것이 위험 관리의 토대가 된다는 견해를 제시할 수 있다.

지정학적 긴장이 인공지능 개발의 속도에 어떤 영향을 미칠지는 앞으로도 주시해야 할 논점이다. 안전성과 경쟁력의 균형을 어떻게 맞춰나갈 것인가는 개별 기업뿐만 아니라 업계 전체의 있음직한 방식이나 정책의 방향성에도 영향을 미치는 문제로 위치지어진다. '안전성을 어디까지 담보할 것인가'라는 물음에 대한 답이 인공지능에 대한 사회적 신뢰를 좌우하는 핵심 열쇠의 하나가 된다는 견해는 널리 공유되고 있다.