MIT 좌담회 "수학, 두 달 새 100년치 변했다"

AI research illustration: a microscope over a red sample beside node diagrams

매사추세츠공과대학(MIT)은 11월 16일 "AI와 사회: 수학의 미래"를 주제로 좌담회를 열었다. 무대에 오른 수학자 4명은 MIT, 하버드, 노스웨스턴대, 뉴욕대 소속이고, 사회는 과학 작가 Kevin Hartnett이 맡았다. 장소는 MIT 3호관의 계단식 강의실이었으며 빈자리가 없었다. MIT News가 11월 20일 현장 보도를 냈다.

보도 맨 앞에는 노스웨스턴대 교수 Bryna Kra의 한마디가 놓였다.

"Math has changed more in the last two months than in the last 100 years."
(수학은 지난 두 달 동안, 지난 100년보다 더 많이 변했다.)

그는 이어 『두 도시 이야기』의 첫 대목을 인용하며, 지금은 최고의 시대이자 최악의 시대라고 했다. 흥분되면서도 두렵다는 뜻이다.

"수학 종말" 이후

MIT News는 이 논의가 나오게 된 경위를 정리했다. 2025년 여름 Google DeepMind의 모델이 국제수학올림피아드에서 금메달 수준에 올랐고, 2026년에 들어서자 모델이 알려진 답이 없는 연구 문제를 풀기 시작했다. 9월에 OpenAI는 수천 개의 에이전트를 한 문제에 집중시켜 88시간 만에 나비에–스토크스 방정식 관련 증명을 내놓았다고 발표했다. 7대 밀레니엄 문제 가운데 하나다. 한 달 뒤 OpenAI는 원고 722편을 공개하며, 중요한 미해결 문제 여러 건을 AI가 완전히 풀었다고 주장했다. 수학계는 이 사건을 "mathocalypse(수학 종말)"라 부른다.

패널 중 한 명인 뉴욕대 쿠란트 연구소의 Tristan Buckmaster 교수는 이 소동의 한가운데에 있었다. MIT News에 따르면 그는 Anthropic의 공동 연구자들과 1년간 작업했고 같은 문제를 거의 풀어 가던 참에 OpenAI의 발표가 나왔다. 공로 표기가 적절한지, 데이터가 유출되지 않았는지, 에이전트가 해답을 어떻게 얻었는지를 둘러싼 논쟁이 뒤따랐다.

좌담회와 같은 주에 수학계에는 또 하나의 일이 있었다. Anthropic의 수학자들이 Claude와 협력해 리만 가설 증명을 완성했다고 발표하고 자료를 Lean 코드 형태로 공개했는데, 스탠퍼드대 교수 한 명이 몇 시간 뒤 순수하게 사람이 쓴 초안을 올렸다. 두 증명 모두 동료 검토를 기다리는 중이며 결론은 나지 않았다.

다투는 것은 "우선권"을 유지할지 여부

하버드대 교수 Michael Hopkins는 AI 원고를 직설적으로 평가했다. 논문 자체가 "헛소리"이고 "이상한 발상"이 들어 있으며, AI 수학과 인간 수학 사이에는 여전히 간극이 있다는 것이다. Buckmaster도 수학이 무게를 가지려면 인간의 이해가 그 안에 있어야 한다고 덧붙였다.

의견이 갈린 곳은 대응 방식이다. Kra는 "누가 먼저 증명했는가"라는 오랜 규칙을 내려놓자고 주장한다. 속도는 더 이상 우선순위가 아니며, 이제 초점은 증명을 만들어 내는 일에서 벗어났으므로 그 사람이 정말 이해하는지를 평가할 다른 방법이 필요하다는 것이다. Hopkins는 완전히 동의하지는 않았다. 우선권은 버려도 되지만 사람은 여전히 개척자가 되고 싶어 하고, AI가 밭을 한 번 다 갈아 놓은 뒤에 개척자가 어디로 가야 하는지가 어려운 문제라는 것이다. Kra는 증명이 어떻게 나왔는지를 알기 쉽게 설명하는 것도 개척에 해당한다고 응수했다.

Kra는 올해 "인공지능과 수학에 관한 라이덴 선언"의 초안 작성에 참여했다. 여러 나라 수학자가 서명한 이 선언은 AI가 수학 연구에 가져오는 위험에 대응할 것을 촉구한다.

학술지와 학생이 먼저 압박을 느낀다

변화는 이미 일상 업무에 닿았다. Kra는 한 전문 학술지의 상임 편집자인데, 투고량이 크게 늘었고 대부분이 AI가 생성했거나 AI의 도움을 받은 결과라고 말했다. 그 학술지는 이 때문에 상임 편집자를 한 명 더 채용했다. 논문에서 사고 과정을 설명하는 부분을 중시하는 간행물이 생기기 시작했고, 해설형 글만 싣는 실험적 학술지도 등장했다. 그는 새로운 피어 리뷰 "비디오 학술지" Mathematical Discourse도 언급했는데, 내용은 수학자들이 발표하는 모습을 녹화한 것이다.

채용 방식도 달라지고 있다. Kra는 면접이 점점 중요해지고 있으며, 입학, 채용, 승진 모두 글로 쓴 결과물만이 아니라 본인이 직접 만나 분명하게 설명할 수 있는지도 봐야 한다고 말했다. MIT 조교수 Jacopo Borga는 예전에는 수학자 평가의 9할이 학술지에 달려 있었는데, 이 방식을 계속 써야 할지 확신이 없다고 했다.

학생 쪽에 대해 Hopkins는 자기 그룹에 AI를 쓰지 않겠다고 고집하는 "AI 채식주의자"가 많고, 쓰는 학생도 있어서 양쪽을 다 챙겨야 한다고 했다. 직관은 좋지만 실행력은 약한데 AI에게 질문을 아주 잘 던져서 흥미로운 결과를 끌어낸 학생을 소개하기도 했다. Hopkins의 말을 그대로 옮기면, 이것은 어쩌면 새로운 유형의 수학자다.

좌담회는 공통된 결론을 내리지 않았다. "최초의 증명"을 대신해 학술지가 논문을 평가할 기준이 무엇인지, AI 원고를 누가 어떤 기준으로 검수할지에 대해 네 사람의 생각은 제각각이었다. 이번 행사는 MIT 시리즈 행사의 첫 순서로, MITHIC와 SERC가 주최하고 수학과가 공동 후원했다.

참고 출처: MIT News 좌담회 현장 보도(패널 4인의 발언과 88시간·722편 두 수치를 확인), CocoLoop, The Decoder(리만 가설 두 증명의 공개 현황을 확인).