フィールズ賞受賞者でシカゴ大学数学科教授の鄧煜(Yu Deng)氏は10月25日、「知識分子(The Intellectual)」と「賽先生(Mr. Science)」が主催するフォーラムでオンライン基調講演を行い、AI企業による数学成果の発表の仕方を公に批判した。講演の整理稿は翌日、潮新聞(Chao News)が転載した。同氏はAIの利用に反対しているわけではない。反対しているのは、企業が結果だけを示し、過程を説明しない姿勢だ。
同氏が例に挙げたのは、あるAI企業が10月6日に公表した一連の成果である。300超の問題、700本超の論文に及ぶ。この企業は蒸留を防ぐためとして、思考連鎖の公開を拒んでいる。鄧氏はこの理由は成り立たないとみる。AIが重要な証明を成し遂げたのなら、学術の慣例として、発想と過程を示すべきだという。
講演では企業名は出なかった。Retraction Watchの報道と照らすと符合する。OpenAIは10月6日、GitHubで372の数学問題に関する722本のプレプリントを公開している。
鄧氏が求めたこと
鄧氏の批判は2つの層に分かれる。1つは学術規範である。AIを研究者として扱うのであれば、発想の出どころを説明し、証明の正しさを保証しなければならない。同氏は、これらの論文が正しさの保証のないまま公開され、誤りが見つかって撤回されたものも1本にとどまらないと指摘した。
もう1つは商業上の関係である。数学者は料金を払って製品を使い、自分のアイデアを入力する。その内容が学習に使われる可能性がある。同氏は、研究者のアイデアが数週間後に同社の新しい発表に現れたのに、利用者には何の見返りもなかったと述べた。これは本人の主張であり、公開情報から個別の事例を検証することはできない。
同氏が示した利用原則はいくつかある。AIは数学者や愛好家が使う道具であり、企業が利用者に代わって研究を行うべきではない。入力したデータを学習に使うかどうかは、利用者が決める。貢献は追跡可能であるべきで、AIと各人がそれぞれ何をしたかを区別できるようにし、先取権をめぐる争いを減らす。
「選択権は利用者にあると思います。」
さらに同氏は、数学界が商業企業に頼らず、オープンソースの数学モデルを発展させるべきだと主張した。オープンソースモデルの数学的な水準は現時点で最強の商用モデルとかなり差があると認めたうえで、その差は訓練と改良で縮めていくしかないとした。
夏から現在まで続く流れ
この数カ月の節目をつなぐと、数学界とAI企業の関係は急速に変化している。
7月のインタビューで、鄧氏の態度はかなり好意的だった。ある特殊なケースで数日行き詰まっていたところ、GPTがごく簡単な証明を示したという。一般化はできなかったが、考え方のヒントにはなったと話している。
9月初め、OpenAIはAIがナビエ–ストークス問題で進展を得たと発表し、その後、数学者から発表が早すぎるとの批判が出た。9月11日前後には、25人の数学者が連名で出した公開書簡が報じられた。鄧氏とテレンス・タオ氏も名を連ねており、書簡はAI企業が問題を解くことを能力ベンチマークとして扱い、論文の執筆や検証に要する過程を圧縮していると批判した。
10月7日、つまりプレプリント公開の翌日に、OpenAIは記号の誤りを理由に3本を撤回し、ほかの14本を改訂した。コーネル大学のAlex Townsend氏は、同社はまずLeanで形式検証を済ませた部分を公開すべきだとの見方を示した。マサチューセッツ工科大学のAndrew Sutherland氏は、撤回と訂正は責任ある対応だと評価する一方、多くの数学者がOpenAIのこれまでのやり方に不満を抱いているとも述べた。OpenAIの広報担当者は、誤りは社内監査で見つかったもので、反復的なプロセスだと説明した。
鄧氏の講演の翌日、OpenAIは新たに3件の成果を発表した。そのうちヤン–ミルズ理論に関する1件は、Leanによる形式化が行われていない。
蒸留への懸念にも根拠はある
AI企業の懸念には事実の裏づけがある。OpenAIは、Moonshot AIに関連するアカウントが推論過程を蒸留したと指摘したことがあり、Anthropicも推論の蒸留を狙い撃ちで防ぐ対策を導入したことがある。思考連鎖を公開すれば、競合他社に学習用の素材を1つ余分に渡すことになるのは確かだ。
鄧氏の反論は、場面の違いに置かれている。製品のAPIは蒸留から守ればよいが、難問を解いたと主張する論文については、読者にその到達経路を確かめる権利がある。2つの要求は切り分けて扱える可能性もあり、たとえば推論記録を論文の査読者にだけ開示する方法が考えられる。ただしこれは1つの構想にすぎず、同様の案を公に示した企業はまだ見当たらない。記事執筆時点で、今回の講演に対するOpenAIの公式な反応は確認できていない。
参考資料: 潮新聞(Chao News)、知識分子(The Intellectual)、Retraction Watch、CocoLoop、ITHome。プレプリントと撤回の件数はRetraction Watchの集計に従っている。