AI 에이전트가 자율적으로 마우스 뇌수술 실시

AI 에이전트가 치료 방침의 선택으로부터 실제 외과적 처치까지를 인간의 판단 없이 완수했다. 연구팀을 지도하는 오카르냐-산테로 박사에 따르면, AI 에이전트가 치료법을 자율적으로 선택하여 생존 포유류에 투여한 것이 이번이 처음이라고 한다. 대상은 간질을 가진 마우스였으며, 유전자 치료 수법이 사용되었다.

이번 실험에서 AI 에이전트가 담당한 것은 종래라면 전문의가 행하는 판단의 모두다. 사용할 약제의 종류, 뇌내의 어느 부위에 투여할지, 그리고 주사할 좌표의 특정까지, AI가 단독으로 결정했다. 유전자 치료란 특정한 유전자를 뇌의 표적 부위에 보내어 질환의 원인에 직접 작용하는 수법으로, 투여하는 위치의 미세한 오차가 치료 효과를 크게 좌우하는 섬세한 처치다. 그만큼 표적의 선정과 좌표의 정밀성이 극히 중요하게 된다.

수술의 과정에서는 예상 외의 사건도 일어났다. 처치의 도중에 캘리브레이션(기기의 교정) 오류가 발생했을 때, AI 에이전트는 스스로 처치의 계속을 거부했다. 연구자가 수술을 계속하도록 중재해도, 에이전트는 그 판단을 뒤집지 않았다고 보고되고 있다. 즉, AI는 단순히 지시를 이행하는 것뿐만 아니라, 안전상의 위험이 있다고 판단한 장면에서는 스스로 멈춘다는 동작을 보였다.

이 일이 가지는 의미는 의료 분야에 그치지 않는다. AI가 자율적으로 판단을 내리고 생체에 직접 개입한다는 일보는, 지금까지 '지원 도구'로 위치지어져 왔던 AI의 역할을 크게 초과하는 것이다. AI 에이전트는 이미 코드의 작성이나 웹 검색, 정보의 수집·분석 같은 영역에서 자율적으로 동작하게 되어 있지만, 물리 세계에서 생명에 직접 관련된 판단을 내린 사례는 극히 적다.

한편, 이번 실험이 제시한 '거부'라는 동작은 안전성의 관점에서 중요한 시사를 담고 있다. AI가 자율적으로 움직이는 장면이 넓어질수록, '어떠한 상황에서 처치를 멈춰야 할 것인가'라는 판단 기준을 어떻게 설계할지가 문제가 된다. 이번은 오류 발생 시에 스스로 멈추었지만, 그 판단의 근거나 프로세스가 외부로부터 검증 가능한지 여부는, 향후의 연구에서 문제가 되어야 할 점이라고 할 수 있다.

의료 현장에서의 AI 활용은 진단 지원이나 영상 해석의 영역에서 착실히 넓어지고 있다. 다만, 이번처럼 생체로의 직접 개입까지 자율적으로 행하는 시스템이 실용화되기 위해서는, 안전성의 검증이나 규제상의 정리에 상당한 시간과 논의가 필요할 것으로 보인다. 이번 연구는 임상 응용을 직접 목표로 한 것이 아니라, 자율적인 의료 AI 에이전트의 가능성과 한계를 탐색하는 기초적인 탐색으로 위치지어진다.

향후 주목해야 할 것은, 이러한 자율형 에이전트가 '어디까지 맡길 수 있을 것인가'라는 경계선을 어떻게 그을지라는 논의다. 안전을 위해 처치를 멈추는 능력은 중요한 일보이지만, 그 판단 기준의 투명성이나, 인간에 의한 감독을 어느 단계에서 어떻게 조립할지라는 설계의 문제는, 기술의 발전과 함께 더욱 문제가 될 것으로 생각된다.