OpenAI, AI보안 부문 'Daybreak' 확대

OpenAI는 인공지능 관련 사이버보안 위협에 대응하기 위해 사내 보안 전문 팀 'Daybreak'의 체제를 확대했다. AI의 능력이 빠르게 향상되는 가운데 악의적 용도로의 전용 위험도 커지고 있으며, 동사는 이에 대한 대응을 조직적으로 강화할 방침을 보인 것이다.

배경에는 AI 모델이 고도화됨에 따라 사이버 공격에의 응용 가능성도 확대된다는 업계 전체가 직면한 과제가 있다. 예를 들어 악성코드의 자동 생성, 피싱 사기의 고도화, 시스템 취약점을 이용한 공격의 자동화 같은 위험이 AI의 진화에 따라 현실적인 위협으로 논의되고 있다. 이러한 우려는 일부 연구자들에게만 그치지 않고, 주요 AI 개발 기업들이 공통으로 마주하는 문제로 인식되고 있다.

Daybreak는 OpenAI 내에서 AI의 안전성과 보안을 전문적으로 담당하는 팀으로 자리 잡고 있다. 이번 확대를 통해 AI가 악용되는 시나리오의 조사·분석 및 그 위험을 경감하기 위한 대책 개발을 더욱 큰 규모로 진행할 체제가 정비될 것으로 보인다. 구체적인 인원 규모나 예산은 현재로서는 공개되지 않았다.

이번 움직임은 OpenAI만의 문제가 아니다. 다른 대형 AI 개발 기업들도 마찬가지로 AI의 사이버보안 문제 대응을 강화하는 움직임을 보이고 있으며, 업계 전체에서 이 주제에 대한 노력이 활발해지고 있는 단계에 있다. 각 사가 각각의 방식으로 대책을 강구하고 있다는 상황은 아직 업계 표준이나 공통 지침이 확립되지 않았음을 보여주기도 한다.

AI보안 문제가 중시되는 이유 중 하나는 AI 모델이 '도구'로서 광범위하게 보급될수록 악의적 사용자에게도 접근하기 쉬워진다는 구조적 딜레마에 있다. 이용의 편의성 향상과 안전성 확보를 동시에 추구하는 것은 기술 개발의 근본적인 과제이며, Daybreak 같은 전문 팀의 존재는 그 갈등에 정면으로 맞서는 시도로 자리 잡혀 있다.

앞으로 주목할 점은 OpenAI가 Daybreak를 통해 어떤 구체적인 성과를 내놓을 것인가 하는 점과, 다른 AI 기업들과의 협력이나 정보 공유가 진행될 것인가 하는 점이다. AI보안은 한 회사만으로 해결할 수 있는 문제가 아니며, 업계 횡단적 협력 체제가 어느 정도까지 구축될 것인가가 향후 초점 중 하나가 될 수 있다는 견해가 가능하다.