OpenAI는 10월 26일 자사 AI 모델이 만들어낸 연구 성과 세 가지를 한꺼번에 공개했다. 분야는 이론 컴퓨터과학, 조화해석학, 수리물리학이다. 가장 비중이 큰 것은 지수 시간 가설(ETH)이 성립하지 않는다는 증명이다. 회사는 어떤 모델을 썼는지 밝히지 않고 "OpenAI의 AI 모델"이라고만 했으며, 세 성과 모두 학계의 추가적인 독립 확인이 필요하다고 밝혔다.
ETH: 수백 편의 논문이 기대는 토대
지수 시간 가설은 불리언 식 충족 가능성 문제(3-SAT)의 계산 난이도에 관한 것이다. 대략 말하면 이런 문제는 부분 지수 시간 안에 풀 수 없다는 주장이다. "P는 NP가 아니다"보다 강하면서 쓰기도 편해, 수십 년간 사실상의 기본 전제로 쓰였다. 그래프 이론, 계산생물학, 데이터베이스, 계산기하학 분야에서 수백 편의 논문이 내놓은 하한 결과가 이 가설 위에 서 있다.
OpenAI가 공개한 타임라인에 따르면 모델은 10월 16일 자연어 증명을 생성했고 이튿날 Lean 형식화를 마쳤다. 협력에 참여한 이는 캘리포니아대 샌디에이고 캠퍼스의 Russell Impagliazzo, Ramamohan Paturi와 매사추세츠공과대(MIT)의 Ryan Williams다. 앞의 두 사람은 ETH를 처음 제안한 이들이기도 하다.
공개된 내용에 따르면 학자들은 OpenAI에 두 가지 조건을 걸었다. 원시 데이터를 모두 공개할 것, 그리고 이 결과가 컴퓨터과학에 미치는 영향을 논의하는 학술대회를 비용을 대어 열 것이다. OpenAI는 둘 다 받아들였다. 증명이 검증을 견뎌낸다면 ETH를 전제로 한 논문들은 하나씩 재평가해야 한다. 어떤 결론은 단지 "조건이 무너진" 것이고 어떤 결론은 다른 가설로 살려낼 수 있는지 가려내는 일은 만만치 않은 작업이다.
가케야 추측: 중국 학자들에게 익숙한 흐름
두 번째 성과는 모든 차원에서 국소 평활 추측을 증명하고, 이로부터 모든 차원의 가케야 추측과 스타인 제한 추측을 도출했다는 것이다. 여기서 핵심 역할을 한 것은 모델이 구성한 보조 편미분방정식이다. OpenAI는 10월 18일에 증명을 얻었고 이튿날 Lean 형식화를 마쳤다고 밝혔으며, 자연어 버전과 Lean 파일은 GitHub에 올라와 있다.
이 흐름은 중국어권 독자에게 낯설지 않다. 국소 평활 추측은 1991년 Christopher Sogge가 제기했다. 2019년에는 Larry Guth, 왕훙(Hong Wang), 장루이샹(Ruixiang Zhang)이 2차원 경우를 증명했고, 2025년에는 왕훙과 Joshua Zahl이 3차원 가케야 추측을 증명해 조화해석학에서 수년 만의 가장 중요한 진전 중 하나로 평가받았다. 3차원에서 모든 차원으로 단숨에 넘어가는 것은 도약의 폭이 크다. 외부 수학자들의 평가는 현재 공개된 것이 없다.
양–밀스: 전문가 검토만 거쳤다
세 번째는 수리물리학이다. 연구는 게이지장과 페르미온을 함께 포함하는 4차원 상호작용 양자장론이 엄밀한 수학적 의미에서 실제로 존재함을 증명했다고 한다. 양자색역학도 여기에 포함되며, 순수 양–밀스 이론의 존재성에 관한 하위 문제도 함께 다뤘다. 순수 양–밀스 이론의 존재성과 질량 간극은 클레이 수학연구소의 밀레니엄 난제 중 하나다.
방법은 Tadeusz Balaban의 구성적 양자장론 노선을 따른다. 표준모형을 임의로 짧은 거리 척도까지 곧바로 확장할 수는 없으므로, 증명은 표준모형의 게이지장과 페르미온을 포함하는 가장 단순한 대통일 이론을 대상으로 했다. 검토는 노벨상 수상자 David Gross가 이끌었고 Michael Douglas, Arthur Jaffe, Igor Klebanov, Nikita Nekrasov가 참여했다. 이 건은 형식 검증을 하지 않았다.
5월에서 10월까지
올해 OpenAI의 수학 관련 발표를 이어 보면 속도가 빨라지고 대상도 달라지고 있다. 5월에는 80년 묵은 에르되시 문제였다. 9월에는 나비에–스토크스 방정식의 매끄러움 문제였는데, 역시 Lean 파일이 딸려 있었지만 당시에는 독립 검증을 마친 수학자가 없었다. 이번에는 수많은 후속 연구가 기대는 계산 복잡도 가설을 겨냥했고, 가설을 제안한 당사자들을 처음으로 협력자 명단에 올렸다.
검증 방식도 갈린다. 수학 성과 두 건은 기계가 검사할 수 있는 Lean 증명을 내놓았지만, 물리 건은 사람의 검토에만 의존한다. Lean은 유도 과정에 빈틈이 없음을 보장할 수 있지만, 이는 형식화 과정에서 명제 자체의 표현이 어긋나지 않았다는 전제가 있을 때의 이야기다. 이 점은 독립된 팀이 파일을 한 줄씩 읽어 보아야 확인할 수 있다.
참고 출처: OpenAI 연구 발표, CocoLoop, ITHome. GitHub에 공개된 Lean 형식화 파일로 증명 대상과 검증 방식을 확인했다.