OpenAI, 나비에-스토크스 증명 공개…검증은 미완

9월 8일 OpenAI는 나비에-스토크스 존재성 및 매끄러움 문제에 대한 증명을 공개하며 논문과 Lean 형식화 파일을 함께 내놓았다. 이는 클레이수학연구소가 2000년에 제정한 7대 밀레니엄 난제 중 하나로, 문제당 상금은 100만 달러다. OpenAI는 발표문에서 이 상금을 신청할 계획이 없다고 밝혔다.

증명은 아직 공개되지 않은 모델을 사용하는 에이전트 무리가 만들어낸 것으로, 공식 설명에 따르면 GPT-6 Astra보다 명백히 뛰어난 성능을 갖췄다고 한다. 결론은 유체가 매끄러운 초기 상태에서 출발해도 유한한 시간 안에 특이점을 발생시킬 수 있다는 것이다.

88시간, 에이전트 1만 개

결론보다 더 드물게 공개된 것은 과정에 대한 수치다. 에이전트는 9월 1일 가동을 시작해 9월 5일 결과를 얻었으며, 그 사이 약 88시간 동안 최대 약 1만 개의 에이전트가 동시에 가동됐다. 이 문제 하나에만 270만 건의 메시지와 약 1300억 개의 출력 토큰이 소모됐다. 이번 라운드에서 시도한 모든 문제를 합치면 490만 건의 메시지, 약 3000억 개의 출력 토큰에 달한다. 공개 API 가격으로 환산하면 외부에서는 약 1500만 달러 안팎으로 추산하고 있다.

분석적 형태의 증명을 얻은 뒤 GPT-6 Astra는 다시 17시간을 들여 이를 Lean으로 작성하고 검증을 마쳤다. 형식화 파일은 이미 공개됐으며, 이 부분은 논문 자체보다 더 견고하다고 볼 수 있다. 해석학 분야의 긴 증명은 원래 검토가 어렵기로 유명하지만, Lean에서 컴파일이 통과됐다는 것은 적어도 논리적 자기 일관성이라는 관문만큼은 사람이 하는 검토 과정에서 덜어냈다는 뜻이다.

남은 관문은 그렇게 덜어낼 수 없다. 밀레니엄 난제에는 공식적인 문제 서술이 있으며, 어떤 증명이 이를 해결했다고 볼 수 있는지는 그 구성이 어떤 조건을 충족하는지에 달려 있다. 수학자가 논문 전체를 다 읽기 전까지는 '해결'이라는 말은 유보해야 한다. 현재 공개된 설명에는 이 구성에 외력항이 포함되는지가 명확히 나와 있지 않다. 그리고 외력항의 유무야말로 지난 20년간 이 문제에서 가장 결정적인 갈림길이었다.

공식 발표, 그리고 또 하나의 성명

같은 날 또 다른 이야기가 있었다. 뉴욕대 쿠랑연구소의 트리스탄 벅마스터(Tristan Buckmaster)와 Anthropic의 레벤트 알푀게(Levent Alpöge)가 강제 오일러 방정식 등 세 개 방정식에 대한 유한 시간 폭발 결과를 공개했다. 벅마스터는 별도로 OpenAI와의 소통 경위를 설명하는 성명도 발표했다.

OpenAI 발표문에 따르면, 처음에는 상대방도 나비에-스토크스를 풀었다고 생각해 공동 발표를 제안했으나, 이후 상대방이 다룬 것이 강제 오일러 방정식임을 알게 됐고 그 문제에 대한 상대방의 우선권을 인정했다고 한다. 데이터와 관련해서는 상대측이 공개하기 전까지 연구원과 에이전트 모두 어떤 경로로도 상대방의 작업 내용을 본 적이 없다고 밝히면서도, 상대방의 사용 행태에서 파생된 비식별화 데이터가 어떤 역할을 했을 가능성을 배제할 수는 없다고 덧붙였고, 동시에 양측 증명의 차이가 상당하다는 점을 강조했다.

9월 8일자 TechCrunch 보도에서 벅마스터의 주장은 더 강경했다. 그는 자신의 진행 상황이 OpenAI 쪽에 전달됐고, 상대방이 자신과 같은 경로를 택했으며, "이 문제를 다루는 사람은 거의 없었다"고 말했다. 그는 또 통화 중 세바스티앙 뷔벡(Sébastien Bubeck)이 "왜 자신의 커리어를 망치려 하느냐"거나 "당신이 내가 친절하게 굴지 않길 원한다면 그렇게 할 수도 있다"고 말했다고 인용했다. 뷔벡은 이전에 X(옛 트위터)에서 이를 부인하며 떠도는 주장이 허위이고 선동적이라고 밝힌 바 있다. 같은 통화에 대한 양측의 설명은 현재 서로 맞지 않는다.

이전 사례와의 차이

지난 1년간 이 분야의 흐름은 추적하기 어렵지 않다. 먼저 페르마의 마지막 정리에 대한 완전한 기계 증명이 96코어 머신에서 컴파일에 성공했고, 이어 에르되시 추측 관련 결과들이 나왔으며, 이후 각 기업은 Lean 형식화를 발표의 기본 절차로 삼았다. 공통점은 다투는 대상이 어디까지나 수학 그 자체였고, 재현 가능한 증거 사슬이 함께 제시됐다는 점이다.

이번에 새로 더해진 것은 과정 자체가 논쟁거리가 됐다는 점이다. 누가 먼저 시작했는지, 누구의 초안이 누구의 시스템을 거쳤는지, 통화에서 무슨 말이 오갔는지. 이런 분쟁은 순수하게 인간으로만 이뤄진 수학계에서도 있었지만, 과거에는 적어도 프리프린트 타임스탬프와 학회 기록으로 순서를 정리할 수 있었다. 한쪽의 도구 체인이 다른 쪽의 제품 그 자체일 때, 타임스탬프는 더 이상 중립적이지 않다. 사이먼 윌리슨(Simon Willison)은 9월 8일 더 직설적으로 말했다. 만약 자신이 ChatGPT를 이용해 밀레니엄 난제의 일부를 풀었다면, 그 작업이 학습에 반영돼 이후 모델이 다른 누군가가 먼저 풀도록 돕게 될 확률은 얼마나 될까.

이 질문에 OpenAI의 발표문은 답하지 않았고, 지금으로서는 어떤 연구소의 데이터 약관도 이 질문에 답할 수 없다.

참고 출처: OpenAI의 밀레니엄 난제 발표문, TechCrunch, CocoLoop, 사이먼 윌리슨 개인 블로그, 트리스탄 벅마스터 공개 성명; 에이전트 규모, 메시지 수, 토큰 수치는 공식 발표 및 관련 보도를 기준으로 하며, 비용 환산은 공개 API 가격에 기반한 외부 추산이다.