필즈상 수상자이자 시카고대 수학과 교수인 덩위(Yu Deng, 邓煜)는 10월 25일 ‘지식분자(The Intellectual)’와 ‘사이 선생(Mr. Science)’ 포럼에서 온라인 기조연설을 하며 AI 기업이 수학 성과를 발표하는 방식을 공개적으로 비판했다. 정리본은 다음 날 차오신원(Chao News)이 전재했다. 그는 AI 활용 자체에 반대하는 것이 아니다. 반대하는 것은 기업이 결과만 내놓고 과정은 설명하지 않는 태도다.
그가 든 사례는 한 AI 기업이 10월 6일 공개한 성과 묶음이다. 300개가 넘는 문제와 700편이 넘는 논문이 포함돼 있다. 이 기업은 증류를 막기 위해서라며 사고 과정 공개를 거부했다. 덩위는 이 이유가 설득력이 없다고 본다. AI가 중요한 증명을 해냈다면 학계의 관례상 발상과 과정을 밝혀야 한다는 것이다.
연설에서 기업 이름은 언급되지 않았다. Retraction Watch 보도와 맞춰 보면 일치한다. OpenAI는 10월 6일 GitHub에 수학 문제 372개와 관련된 프리프린트 722편을 공개했다.
덩위가 요구한 것
덩위의 비판은 두 층위로 나뉜다. 하나는 학술 규범이다. AI를 연구자로 대우하려면 발상의 출처를 설명하고 증명의 정확성을 보증해야 한다. 그는 이 논문들이 정확성 보증 없이 그대로 공개됐고, 오류가 발견돼 철회된 논문도 한두 편이 아니라고 지적했다.
다른 하나는 상업적 관계다. 수학자들은 돈을 내고 제품을 쓰면서 자신의 아이디어를 입력하는데, 그 내용이 학습에 들어갈 수 있다. 그는 어떤 연구자의 아이디어가 몇 주 뒤 해당 기업의 신규 발표에 나타났지만 사용자에게는 아무런 보상이 없었다고 말했다. 이는 본인의 주장이며, 공개된 정보로는 개별 사례를 검증할 수 없다.
그가 제시한 사용 원칙은 몇 가지다. AI는 수학자와 애호가가 쓰는 도구이며, 기업이 사용자를 대신해 연구를 해서는 안 된다. 입력한 데이터를 학습에 쓸지는 사용자가 정한다. 기여는 추적 가능해야 하며, AI와 각 사람이 무엇을 했는지 구분할 수 있어야 우선권 분쟁이 줄어든다.
“선택권은 사용자에게 있다고 생각합니다.”
그는 또 수학계가 상업 기업에 의존하지 않고 오픈소스 수학 모델을 발전시켜야 한다고 주장했다. 현재 오픈소스 모델의 수학 실력이 가장 강한 상용 모델과 상당한 차이가 있음을 인정하면서, 이 격차는 훈련과 개선으로 좁혀 가야 한다고 말했다.
여름부터 지금까지 이어진 흐름
지난 몇 달의 계기를 이어 보면 수학계와 AI 기업의 관계는 빠르게 변했다.
7월 인터뷰에서 덩위의 태도는 상당히 우호적이었다. 특수한 경우에서 며칠째 막혀 있었는데 GPT가 아주 간단한 증명을 내놓았다고 했다. 일반화는 되지 않았지만 접근 방향은 제공해 줬다는 설명이다.
9월 초 OpenAI는 AI가 나비에–스토크스 문제에서 진전을 이뤘다고 발표했고, 이어 수학자들이 발표가 성급했다고 비판했다. 9월 11일 전후에는 수학자 25명이 서명한 공개 서한이 보도됐다. 덩위와 테렌스 타오(Terence Tao)도 서명자에 포함됐으며, 서한은 AI 기업이 문제 풀이를 능력 벤치마크로 삼아 논문 작성과 검증 과정을 압축했다고 비판했다.
10월 7일, 즉 프리프린트가 공개된 다음 날 OpenAI는 기호 오류를 이유로 3편을 철회하고 14편을 수정했다. 코넬대의 Alex Townsend는 회사가 먼저 Lean으로 형식 검증을 마친 부분부터 공개해야 한다고 봤다. MIT의 Andrew Sutherland는 철회와 정정이 책임 있는 대응이라고 평가하면서도, 적지 않은 수학자가 OpenAI의 이전 방식에 불만을 갖고 있다고 덧붙였다. OpenAI 대변인은 오류가 내부 감사에서 발견됐으며 반복적인 과정이라고 밝혔다.
덩위의 연설 다음 날 OpenAI는 성과 세 건을 추가로 발표했다. 그중 양–밀스 관련 건은 Lean 형식화를 거치지 않았다.
증류 우려가 근거 없는 것은 아니다
AI 기업의 우려에는 사실적 근거가 있다. OpenAI는 Moonshot AI와 연관된 계정이 추론 과정을 증류했다고 지목한 적이 있고, Anthropic도 추론 증류를 막는 별도 조치를 도입한 적이 있다. 사고 과정을 공개하면 경쟁사가 학습 자료를 하나 더 얻게 되는 것은 사실이다.
덩위의 반박은 사용 맥락에 있다. 제품 API는 증류를 막을 수 있지만, 어려운 문제를 풀었다고 주장하는 논문이라면 독자에게는 그 결과가 어떻게 나왔는지 검토할 권리가 있다는 것이다. 두 요구는 따로 처리할 수도 있을 것이다. 예를 들어 추론 기록을 논문 심사자에게만 공개하는 방식이다. 다만 이는 하나의 구상일 뿐이며, 비슷한 방안을 공개적으로 내놓은 기업은 아직 보이지 않는다. 기사 작성 시점까지 이번 연설에 대한 OpenAI의 공식 입장은 확인되지 않았다.
참고 출처: 차오신원(Chao News), 지식분자(The Intellectual), Retraction Watch, CocoLoop, ITHome. 프리프린트와 철회 건수는 Retraction Watch의 집계 기준을 따랐다.