테렌스 타오가 2026년 국제수학자대회(ICM)에서 진행한 공개 강연을 12쪽 분량의 논문으로 정리해 arXiv에 올렸다. 제목은 'Mathematics in the age of AI'. 그는 AI가 얼마나 강한지 평가하는 데는 거의 분량을 할애하지 않는다. 대신 던지는 질문은 따로 있다. 수학이라는 학문 자체가 도대체 무엇을 원하는가.
그의 접근 방식은 먼저 AI가 이미 연구 수준의 수학 작업을 해낼 수 있다고 가정한 뒤, 그 전제가 수학계를 어디로 밀어붙이는지를 따라가 보는 것이다.
지난번 위기는 기초를 흔들었다
논문은 지금 상황을 1900년에서 1930년 사이의 시기에 빗대며 시작한다. 러셀의 역설과 괴델의 불완전성 정리가 잇따라 등장하면서, 수학계는 증명 자체가 무엇인지를 다시 물어야 했다. 그때 흔들린 건 형식적 기초였고, 결국 엄밀한 체계로 수습되어 그 체계가 한 세기 동안 버텨왔다.
타오는 이번엔 다르다고 말한다. 이번에 흔들리는 건 수학계가 한 번도 명문화한 적 없는 암묵적 규칙들이다. 누구를 저자로 인정할지, 이해란 무엇인지, 논문이 발표될 자격을 어떻게 얻는지 같은 것들. 이런 문제들은 과거엔 굳이 명시할 필요가 없었다. 증명을 만들어내는 일 자체가 충분히 어려웠고, 그 난이도 자체가 걸러주는 역할을 했기 때문이다.
문제 7개의 비용 명세서
논문에서 가장 단단한 숫자는 First Proof 프로젝트 2차 평가에서 나왔다. 미발표 연구 수준 문제 10개를 AI 시스템 4종에 테스트했고, 그중 7개가 적어도 한 시스템으로부터 합격점을 받았다. 결함 없음 또는 사소한 수정만 필요하다는 판정이었다. 평가 대상 모델은 2026년 5월 28일 이전에 공개된 버전으로 한정했다.
문제 하나당 컴퓨팅 비용은 수십~수백 달러 수준.
이 가격표는 비교해볼 가치가 있다. 미발표 연구 수준 문제 하나를 박사과정 학생에게 맡기면 보통 몇 달이 걸리고, 인건비로 환산하면 최소 네 자릿수 달러부터 시작한다. 걸러주던 체의 구멍이 한번 넓어지면, 그 사이로 밀려드는 것들은 더 이상 예전과 같은 규모가 아니다.
여기서 타오는 자신이 더 우려하는 전환을 끌어낸다. 수학이 '증명 부족'에서 '증명 과잉'으로 옮겨가고 있다는 것. 그는 굿하트의 법칙을 빌려 그 결과를 설명한다.
"When a measure becomes a target, it ceases to be a good measure."(하나의 지표가 목표가 되는 순간, 그것은 더 이상 좋은 지표가 아니게 된다)
논문 편수, 정리 개수, '누가 먼저 풀었는가' 같은 것들이 역사적으로 수학의 진짜 목표와 맞물려 있었던 건, 조작하기 어려웠기 때문이다. 조작이 가능해지는 순간 그 연결은 느슨해진다. 그는 서스턴의 오래된 말도 인용한다. 성공의 척도는 우리가 하는 일이 사람들로 하여금 수학을 더 명확히 이해하게 만드는가이지, 어떤 추상적인 생산 할당량을 채우는가가 아니라는 것.
그가 내놓은 처방
타오는 문제 해결을 하나의 완전한 연쇄로 쪼갠다. 증명을 만들고, 정확성을 검증하고, 명확하게 설명하고, 동료들의 인정을 받고, 교과서에 실리는 과정. 과거엔 첫 단계만 겉으로 드러났고, 나머지는 학계 공동체가 조용히 소화해왔다. AI가 첫 단계의 비용을 거의 0으로 낮춘 지금, 나머지 단계들은 명시적으로 드러나야 한다.
그가 내놓는 제안은 대체로 지난 6월 발표된 '라이덴 선언'을 따라간다. 논문에 '도구와 컴퓨팅 자원 공개' 항목을 추가할 것, 먼저 풀었다는 것의 가중치를 낮추고 자원을 집필·심사·출판·표준화 쪽으로 옮길 것, 공로와 책임은 여전히 인간 저자에게 귀속시킬 것. 가장 강경한 대목은 발표 문턱에 관한 것이다.
저자가 전문가 수준의 명확한 설명을 내놓지 못한다면, 그 결과는 발표되어서는 안 된다는 것. 함께 따라붙는 판단 기준은 되풀이해서 인용되는 문장이다. 누구도 설명할 수 없는 증명은, 형식 검증을 통과했더라도 미완성으로 봐야 한다는 것.
그는 또 다른 함정도 짚는다. AI가 써낸 증명은 대체로 지나치게 다듬어져 있어서, 읽기는 매끄럽지만 배울 게 없다. 학습의 마찰이 사라지는 건 언뜻 좋아 보이지만, 실제로는 후학들의 진입로를 끊어버린다.
개인 의견일 뿐, 기관의 결정은 아니다
분명히 해둬야 할 점은, 이 논문은 타오가 개인 자격으로 쓴 글이지 어떤 기관의 정책 입장이 아니라는 것이다. 지난 1년 동안 여러 연구실이 돌아가며 AI가 미해결 문제를 풀었다고 발표했고, 수학계 논의는 대부분 '정말 할 수 있는가'를 두고 맴돌았다. 이 논문은 화두를 다른 곳으로 옮기려 한다. '할 수 있다'는 건 일단 사실로 받아들이고, 수학계가 그걸 얼마나 감당할 준비가 됐는지를 논해야 한다는 것.
Mathlib, Erdős Problems 데이터베이스 같은 인프라도 논문에서 대응책의 일부로 거론된다. 도구는 이미 있다. 부족한 건 그것을 어떻게 쓸지에 대한 합의다.
참고 출처: 테렌스 타오가 arXiv에 발표한 논문 'Mathematics in the age of AI', CocoLoop, The Decoder 보도. First Proof 2차 평가의 문제 수, 통과 수, 문제당 비용 범위는 논문 원문 기준으로 확인했으며, 인용문은 영어 원문 그대로 유지.