OpenAI, GPT-4o 후속 모델의 안전성 강조

OpenAI는 새로운 인공지능 모델을 공개하면서 그간 지적되어 온 안전성 문제에 다시 한 번 진지하게 대응했다고 발표했다. 이번 작업에서는 특히 사이버보안 분야의 안전 대책에 중점이 두어졌다. 한편 동사는 이 모델이 여전히 일정 수준의 위험을 안고 있음을 인정하고 있으며, '가장 안전한 모델'이라면서도 완벽하지 않다는 복잡한 입장을 나타내고 있다.

인공지능 모델의 안전성을 둘러싼 논의는 생성 인공지능이 급속도로 확산되는 가운데 업계 전체의 중요 과제가 되어 왔다. 성능이 높을수록 오용될 위험도 커진다고 알려져 있으며, 특히 사이버 공격에의 적용이나 해로운 콘텐츠 생성과 같은 우려가 반복적으로 지적되어 왔다. OpenAI도 지금까지 여러 모델 출시에서 안전성 평가를 공개해 왔지만, '안전하지만 완벽하지 않다'는 일정한 딜레마가 계속되고 있는 상황이다.

이번 발표에서 OpenAI가 특히 강조한 것은 사이버보안 대응이다. 신규 모델에서는 이 분야에서의 오용 위험을 완화하기 위한 개선이 이루어졌다고 한다. 다만 모델이 여전히 위험성을 지닌다는 점은 동사 자신도 인정하고 있으며, 안전성 향상과 잔존 위험이 함께 공존하고 있다.

이러한 구조는 인공지능 개발에서 피할 수 없는 과제를 드러내고 있다. 모델의 능력이 높아질수록 할 수 있는 것의 폭이 넓어지는 반면, 의도하지 않은 형태의 이용을 완전히 막기는 어려워진다. '가장 안전하다'는 평가는 어디까지나 상대적인 것이며, 안전성의 절대적 보장과는 다르다는 관점이 가능하다.

업계 전체적으로 보면, 인공지능 기업들은 안전성 평가의 투명화에 힘쓰고 있으며, 제3자 기관의 평가나 모델 카드라고 불리는 성능·위험 정보 공개가 일반화되어 가고 있다. OpenAI가 자사 모델의 위험을 공식적으로 인정하면서 출시한다는 입장은 이러한 투명성 중시의 흐름에 맞춘 것으로 위치지을 수 있다.

향후 주목할 점은 '가장 안전하다'고 불리는 모델에도 여전히 남아 있는 위험이 실제 이용 환경에서 어떻게 관리되는가 하는 점이다. 기업과 개발자가 이 모델을 어떤 용도로 도입하고, 어떤 안전 대책을 층층이 적용하는가가 사회적 영향을 좌우하게 된다. 안전성의 향상은 환영할 진전이지만, 그것으로 끝나지 않으며, 계속되는 평가와 개선의 순환이 요구된다는 견해가 가능하다.