菲尔兹奖得主、芝加哥大学数学系教授邓煜 10 月 25 日在”知识分子""赛先生”论坛做线上主旨演讲,公开批评 AI 公司发布数学成果的方式。整理稿次日由潮新闻转发。他不反对用 AI,他反对的是一家公司只拿出结果、不交代过程。
他举的例子是某 AI 公司 10 月 6 日公布的一批成果,涉及 300 多个问题、700 多篇文章。这家公司拒绝公布思维链,理由是防止蒸馏。邓煜认为这个理由站不住:如果 AI 做出了重大证明,按学术惯例就该交代思路和过程。
演讲没有点名。Retraction Watch 的报道可以对上:OpenAI 10 月 6 日在 GitHub 发布 722 篇预印本,涉及 372 个数学问题。
他提了哪些要求
邓煜的批评分两层。一层是学术规范:既然把 AI 当研究者看待,就得说明思路来源、保证证明正确。他提到这批文章在没有正确性保证的情况下直接发布,其中不止一篇出错后被撤回。
另一层是商业关系。数学家付钱用产品,把自己的思路输进去,这些内容可能进入训练,他称有研究者的思路几周后就出现在该公司的新发布里,用户却没有得到回报。这一条是他的个人说法,公开信息里无法逐案核实。
他给出的使用原则有几条:AI 是工具,由数学家和爱好者来用,公司不该替用户做研究;输入的数据是否用于训练,由用户决定;贡献要可追溯,能分清 AI 和不同人各做了什么,减少优先权争议。
“我想选择权是属于用户的。”
他还主张数学界发展开源数学模型,不依赖商业公司,并承认开源模型目前的数学水平和最强商业模型差距不小,这个差距要靠训练和改进去缩。
从夏天到现在的一条线
把这几个月的节点连起来,数学界和 AI 公司的关系变化很快。
7 月邓煜接受采访时态度相当友好,他说自己卡在一个特殊情形上好几天,GPT 给出了一个很简单的证明,虽然没法推广,也提供了思路。
9 月初,OpenAI 宣布 AI 在 Navier-Stokes 问题上取得进展,随后数学家批评发布过急。9 月 11 日前后,25 位数学家联署的公开信引发报道,邓煜和陶哲轩都在其中,信里批评 AI 公司把解题当能力基准,压缩了撰写和验证的过程。
10 月 7 日,也就是那批预印本发布的第二天,OpenAI 因一处符号错误撤回 3 篇,另外修订 14 篇。康奈尔大学的 Alex Townsend 认为公司应当先公布经过 Lean 形式化验证的部分;麻省理工的 Andrew Sutherland 则认为撤回和修正是负责任的做法,同时提到不少数学家对 OpenAI 此前的做法不满。OpenAI 发言人称错误由内部审计发现,这是一个迭代过程。
邓煜演讲的第二天,OpenAI 又公布了三项成果,其中杨–米尔斯那一项没有做 Lean 形式化。
蒸馏这件事并非全无来由
AI 公司的担心有事实基础。OpenAI 曾指称月之暗面的关联账号蒸馏推理链,Anthropic 也上线过专门封堵推理蒸馏的措施。公开思维链确实会让竞争对手多一份训练素材。
邓煜的反驳落在场合上:产品接口可以防蒸馏,一篇声称解决了难题的论文,读者有权检查它怎么来的。两边的诉求也许可以分开处理,比如只向论文评审人开放推理记录,这只是一种设想,还没有看到哪家公司公开提出类似方案。截至发稿,也没有查到 OpenAI 对这次演讲的公开回应。
参考来源:潮新闻、"知识分子"、Retraction Watch、CocoLoop、IT之家;预印本与撤回数量以 Retraction Watch 口径为准。