強化学習の先駆者でチューリング賞受賞者のRichard Suttonが、大規模モデル熱に改めて冷水を浴びせた。次の単語を予測する訓練だけのシステムは、それ単独では本物の科学を生み出せないという主張だ。
彼は大規模言語モデルが役に立たないと言っているわけではない。論点はもっと狭く、根本的だ。科学的発見には因果の理解、能動的な実験、仮説を世界にぶつけて検証する能力が必要で、人間が書いたものの再構成だけでは足りない。
人間データの天井
この見方はDavid Silverとの議論にも通じる。人間データには上限がある。既存の論文、文章、画像で訓練されたモデルは強力な助手になれるが、人間がまだ記録していない答えを発見するには弱い。
Suttonが別の道として挙げるのがAlphaGoやAlphaProofだ。内部の評価器を持ち、相互作用、フィードバック、探索で改善する。これは人間の出力を真似るだけでなく、仮説、実験、修正に近いループを持つ。
有用性ではなく方向への批判
この批判が響くのは、AI資金の多くがなお、より大きなモデルとより多い人間データへ向かっているからだ。The Bitter Lessonの著者であるSuttonはスケールを否定していない。何をスケールするかを問うている。
判定は議論ではなく成果で下る。次の本当に新しい科学的発見が、あらゆる論文を読んだモデルから出るのか、それとも環境の中で行動し、測定し、失敗し、修正できるagentから出るのかが問われる。
参考資料：The Decoder、CocoLoop。次単語予測への批判、因果理解、実験、人間データの限界、AlphaGoとAlphaProofとの比較を確認した。