수학자 테렌스 타오는 9월 9일 매스토돈(Mathstodon)에 일련의 글을 올렸다. 내용은 AI 도구가 수학 연구에 들어오면서 학계가 잃어가고 있는 것에 관한 것으로, 무게 있는 미해결 문제를 찾아내는 일 자체가 희귀해지고 있다는 것이다.
그의 주장은 이렇다. 후속 연구를 낳을 만한 좋은 미해결 문제들이 재생 불가능한 방식으로 채굴되고 있다는 것이다. 그는 더 날카로운 지적을 덧붙였다. 누군가 특정 문제를 풀고 있다는 소문이 퍼지면 대규모 AI 연산력을 끌어들여 그 문제를 먼저 해결해 버릴 수 있고, 그 결과 해당 연구 흐름이 충분히 전개되기도 전에 소진될 수 있다는 것이다. 그의 표현을 빌리면, 이는 수백 년간 이어진 오픈 사이언스 전통을 거스르는 일이다.
난이도 구배가 무너지고 있다
타오가 제시한 기술적 표현은 '난이도 구배'다. 건강한 연구 분야에서는 문제들이 난이도별로 배열되어 있다. 입문 수준의 연습문제, 박사논문 수준의 문제, 새로운 도구가 필요한 문제, 그리고 오랫동안 미해결로 남아있는 큰 문제들이 있다. 연구자들은 이 구배를 기준으로 자신이 나아갈 방향을 판단하고, 학생을 지도하는 데도 활용한다.
AI 도구는 여러 분야에서 이 구배를 납작하게 눌러버렸다. 원래 세 달이 걸리던 문제와 원래 3년이 걸리던 문제가 이제는 같은 날 오후에 둘 다 풀리거나, 반대로 둘 다 풀리지 않을 수도 있으며 그 사이에 식별 가능한 경계가 없다. 그는 현재 'AI로 풀 수 있는' 문제와 'AI에게 어려운' 문제를 가르는 명확한 경계선이 없다고 지적한다.
이는 또 다른 요인으로 증폭된다. AI 기업들은 대체로 부정적인 결과를 공개하지 않으며, 해를 얻은 이후의 과정도 공개하지 않는다. 외부에서는 성공 사례만 볼 뿐, 어떤 문제가 시도되었다가 실패했는지는 볼 수 없다. 타오의 글은 특정 기업을 지목하지 않았고, '채굴된' 문제의 구체적인 목록도 제시하지 않았다. 이 두 부분은 현재로서는 검증할 수 없다. 실패 데이터가 없으면 학계는 어떤 종류의 문제가 지금 여전히 안전한지조차 판단할 수 없다.
공개에서 비공개로
그가 언급한 부수적 결과는 이미 관찰되고 있다. 일부 수학자들이 자신의 핵심 연구 방향을 더 이상 공개하지 않기 시작했다는 것이다.
학계가 지난 수백 년간 지켜온 기본 방식은 아이디어를 가능한 한 일찍 공유하는 것이었다. 세미나에서 미완성 결과를 발표하고, 프리프린트 플랫폼에 아직 끝나지 않은 아이디어를 올리고, 블로그에 추측을 적는 식이다. 이런 관행은 다른 사람이 알게 되더라도 곧바로 완성해내기는 어려울 것이라는 전제, 즉 자신에게 그것을 마무리할 시간이 있다는 전제 위에 서 있었다. 이제 이 전제가 연산력에 의해 깨졌다.
타오가 내놓은 제안은 평가 기준을 한 단계 앞으로 옮기는 것이다. 일부 문제에 대해서는 답을 내놓는 것만으로 부족하며, 풀이 과정과 관련된 난이도 구조까지 분석해야 한다는 것이다. '이 문제가 왜 어려운가' 자체를 발표 가능한 성과로 만드는 것은 무너진 구배를 다시 세우는 일이라는 것이다.
8월 논문과의 관계
타오는 8월에 국제수학자대회(ICM) 공개 강연을 12쪽 분량의 arXiv 논문으로 정리했다. 주제는 '증명 과잉'으로, AI가 이미 연구 수준의 수학을 해낼 수 있다고 가정하면 수학계는 출력물이 너무 많아 아무도 다 읽을 수 없는 상황에 직면하게 된다는 내용이었다.
이번 매스토돈 글은 초점이 다르다. 앞선 논문이 출력 쪽을 걱정했다면, 이번 글은 입력 쪽, 즉 문제가 어디서 오는가를 걱정한다. 두 글을 함께 놓고 보면, 그가 그리는 것은 하나의 파이프라인 양쪽 끝에서 동시에 문제가 발생하는 그림이다. 상류에서는 좋은 문제가 빠르게 소진되고, 하류에서는 검증되지 않은 증명이 쌓여간다.
중국 국내에 미치는 영향
중국 수학계는 이 메커니즘의 영향을 더 직접적으로 받을 가능성이 있다. 첫째, 국내 연구팀들이 오픈 프리프린트와 소셜 플랫폼에서 연구 방향을 논의하는 비율이 최근 몇 년간 계속 높아졌고, 적지 않은 그룹이 arXiv를 1차 발표 채널로 삼고 있다. 둘째, 미해결 문제를 대규모로 훑을 수 있는 추론 연산력을 동원할 수 있는 기관은 소수의 기업에 집중되어 있으며, 중국 쪽 연구자 대부분은 이 연산력의 사용자일 뿐 배분을 결정하는 위치에 있지 않다.
실무 차원에서 영향을 받을 가능성이 있는 것은 대학원생의 주제 선정이다. 박사과정 학생이 3년을 들여 매달린 문제가 2년 차에 어느 기업의 모델에 의해 일주일 만에 풀려버린다면, 그 3년을 어떻게 인정할 것인지에 대해 각 대학의 학위 평가 체계에는 해당 조항이 없다. 지난 1년 사이 이미 저자 표기와 우선권을 둘러싼 몇 건의 분쟁이 있었고, 이런 갈등을 처리할 선례는 아직 없다.
타오 본인은 제도적 해법을 내놓지 않았다. 그가 남긴 말은 수학계가 무엇을 보상해야 하는지 다시 생각해봐야 한다는 것뿐이다. 이 말이 구체적인 평가 규칙의 변화로 이어질지는 1~2년 안에 조짐이 나타날 것이다. 학술지가 난이도 분석을 주요 기여로 인정하는 논문을 받아들이기 시작한다면 이 길이 통했다는 뜻이고, 그렇지 않다면 공개 토론의 위축은 계속될 것이다.
참고 출처: 테렌스 타오의 Mathstodon 게시물, arXiv, CocoLoop, Simon Willison 블로그; '재생 불가능한 방식으로 채굴된다'는 표현과 연구 방향을 더 이상 공개하지 않는다는 내용은 원문의 영어 표현을 기준으로 옮겼으며, 중국 국내 영향 부분은 편집부의 추정이다.