전 DeepMind 연구자, AI의 오류 응답 극복을 목표로 스타트업 설립

전 DeepMind 연구자 토레 그레펠이 AI의 "환각(사실과 다른 정보를 생성하는 문제)"을 해결하기 위한 스타트업 Metis Reasoning을 설립했다. 동사가 목표로 하는 것은 체스와 바둑 AI에서 실적을 가진 "탐색"의 개념을 범용 추론으로 응용하는 것이다.

그레펠이 모델에 도입하려고 하는 것은 DeepMind가 개발한 바둑 AI "AlphaGo"의 설계 사상이다. AlphaGo는 방대한 선택지 중에서 최선의 수를 "탐색"으로 도출하는 메커니즘을 가지고 있다. 이 방법을 게임의 범위를 넘어 일반적인 추론에 활용할 수 있다면, AI가 결론을 도출하는 과정을 더욱 체계적으로 제어할 수 있다는 생각이 Metis Reasoning의 출발점이 되고 있다.

구체적인 접근 방식으로서 그레펠은 "지식대장(나레지 레지스터)"이라고 부르는 명시적인 메커니즘의 도입을 상정하고 있다. 현재의 대규모 언어 모델은 학습 데이터에서 얻은 지식을 모델의 내부 매개변수(가중치)에 암묵적으로 포함하는 구조를 취하고 있다. 이에 반해 지식대장은 결론의 근거가 되는 증거를 외부에 명시적으로 기록함으로써 나중에 검증할 수 있는 상태로 만들려는 구상이다. 다만 현 시점에서는 구체적인 시스템 구현도 벤치마크(성능 평가 지표)도 존재하지 않는 단계에 있다.

환각은 생성 AI가 널리 사용되기 시작한 이후 실용상 큰 과제로 인식되어 왔다. 모델이 "그럴듯하게 들리지만" 사실과 다른 내용을 생성하는 이 문제는 의료·법률·교육 등 신뢰성이 요구되는 분야에서의 활용을 어렵게 해 왔다. Metis Reasoning의 접근 방식은 이 문제의 근본에 있는 "지식의 불투명성"에 정면으로 대면하려는 것으로 볼 수 있다.

한편, 구상 단계라는 점에 주의가 필요하다. 실제로 작동하는 시스템이 없고 객관적인 평가도 이루어지지 않은 현재, 이 접근 방식의 유효성은 아직 확인되지 않았다. 탐색 기반 방법이 바둑이라는 명확한 규칙과 평가 기준을 가진 영역에서 성공한 반면, 자연어를 통한 추론은 문제의 경계가 모호하고 정답의 정의도 다양하기 때문에, 동일한 방법이 어느 정도까지 통할지는 미지수라는 견해가 있을 수 있다.

그럼에도 불구하고, AlphaGo의 개발에 깊이 관여한 연구자가 그 노하우를 환각 대책으로 전용하려고 하는 점은 향후 연구 동향을 고려하는 데 있어 주목할 가치가 있다. 근거를 명시하여 검증 가능하게 한다는 방향성은 RAG(검색 보강 생성) 등 기존의 접근 방식과도 문제 의식을 공유하고 있으며, AI의 신뢰성 향상을 위한 논의의 한 부분을 담당할 가능성이 있다. 실용적인 시스템의 공개와 벤치마크 결과의 발표가 다음의 판단 자료가 될 것이다.