Grok으로 인공지능이 유년 시절 사진을 성적 이미지로 변환하나

한 여성이 의부가 자신의 어린 시절 사진을 인공지능 도구 'Grok'에 입력하여 성적 이미지로 변환했다고 주장하고 있다. Grok은 이론 머스크가 이끄는 xAI사가 개발한 생성 인공지능으로, 주로 SNS 플랫폼 X를 통해 제공되고 있다. 이 여성은 일상적인 사진이 인공지능에 의해 '아동 성적 학대 자료'로 변환되고 있다고 호소했다.

인공지능에 의한 이미지 생성 기술의 급속한 확산을 배경으로, 실제 인물의 사진을 성적 콘텐츠로 변환하는 이른바 '딥페이크 성적 이미지' 문제는 근년 심각성을 더하고 있다. 특히 어린이의 사진이 대상이 되는 경우는 기존의 아동 성적 학대 대책의 법적 틀과 인공지능 생성 콘텐츠 사이에 발생하는 회색지대를 부각시킨다는 관점이 있다. 이번 사례는 성인을 대상으로 한 딥페이크 피해 논의가 더욱 미성년자로까지 확대되는 국면을 상징하는 사건으로 위치 지어진다.

이 여성은 인공지능 도구가 '일상적인 삶을 아동 성적 학대로 변환하고 있다'고 표현하여 기술 자체의 위험성을 강하게 지적했다. 현 시점에서 xAI사나 Grok 운영 측으로부터의 공식 성명은 확인되지 않았다. 또한 의부가 실제로 체포·기소되었는지, 수사 상황에 대해서도 원문에서 확인할 수 있는 정보는 없다.

이 문제가 가진 중요성은 기술적 악용 가능성에 그치지 않는다. 일상적으로 존재하는 스냅사진이나 가족사진이 인공지능 도구를 거쳐 범죄적 콘텐츠로 전용될 수 있다는 현실은 어린이를 둔 보호자를 포함한 광범위한 사람들과 직접 관련되는 위험이라고 할 수 있다. '특별한 기술 지식 없이도 인공지능을 악용할 수 있다'는 상황이 확산되고 있는 가운데 이용자 개인의 의식만으로는 방지할 수 없는 구조적 문제가 떠오르고 있다.

규제·법정비 측면에서 인공지능이 생성한 아동 성적 학대 이미지(CSAM) 대응은 각국에서 대응이 나뉘고 있으며, 법률 정비가 기술 발전을 따라가지 못하고 있다는 견방이 확산되고 있다. 인공지능이 생성한 이미지가 '실제 아동의 사진을 사용한 것'인 경우, 기존 법률이 어느 정도까지 적용되는지는 국가·지역에 따라 다르다. 이번 사례는 그러한 법적 공백을 다시 문제 삼는 계기로 주목되고 있다.

인공지능 도구의 개발·제공 측에게도 이번 사례는 안전 대책의 방식을 묻는 사례가 된다. 생성 인공지능 서비스에서는 성적 콘텐츠나 해로운 콘텐츠의 생성을 방지하는 필터링 기능의 구현이 요구되고 있으나, 그 정확성과 운영에는 과제가 남아 있다고 알려진다. 플랫폼으로서의 책임 범위를 어떻게 정할 것인지, 향후 논의의 진행 방향에 주목이 집중되고 있다.

이번 고발은 한 여성에 의한 주장이며, 현 시점에서 법적 인정이나 수사 결과는 확인되지 않았다. 다만 어린이의 사진이 인공지능에 의해 성적으로 변환될 수 있다는 호소는 기술의 윤리적 이용과 규제의 방식을 둘러싼 사회적 논의를 다시 한 번 촉진하는 것이 되고 있다. 일상의 사진이 위험에 노출될 수 있다는 현실을 앞에 두고 플랫폼·입법기관·사회 전체의 대응이 문제되고 있다.