用 AI 做题十分钟,撤掉后更容易放弃

加州大学伯克利分校 10 月 9 日发布消息,介绍了一项关于 AI 辅助与”坚持力”的研究:参与者借助 ChatGPT 做题约 10 分钟,工具被撤走后,正确率下降,跳过题目的比例上升。论文《AI Assistance Reduces Persistence and Hurts Independent Performance》最早 4 月挂上 arXiv,10 月 3 日更新到第五版,经同行评审的版本发表于语言模型会议 COLM。

作者共五人,包括伯克利人类兼容 AI 中心的研究员、《算法之美》作者 Brian Christian,以及来自卡内基梅隆、MIT、牛津和 UCLA 的合作者。

三组实验怎么做

研究在线招募 1222 人,做了三项随机对照试验。前两项是分数运算,第三项是 SAT 阅读理解练习题。每项都分两段:练习阶段,一组可以用 AI,对照组只能自己做;随后进入 3 道题的测试阶段,所有人都没有 AI 可用。

结果按剔除后的样本算:

实验测试正确率(AI组 / 对照组)跳过率(AI组 / 对照组)
分数题一(307 人)57% / 73%20% / 11%
分数题二(585 人)71% / 77%10% / 7%
阅读理解(168 人)76% / 89%8% / 1%

三组正确率差距都达到统计显著。跳过率的差距在第一组和第三组显著,第二组没有。

“You almost couldn’t ask for a clearer story.” (很难再找到比这更清楚的结果了。)

Christian 在伯克利的稿件里这样形容。他也补了一句,这项研究讲的并非分数题和 SAT 本身。

怎么用 AI,差别很大

第二项实验让 AI 组自报使用方式:61% 的人直接向 AI 要答案,27% 只要提示或请它解释,12% 基本没用。

直接要答案的那批人,测试正确率 65%,跳过率 13%;只要提示的那批人,正确率 76%,跳过率 5%,和对照组相差无几。作者明确说这是事后分组比较,不能当因果证据,人们选择怎么用 AI 本身可能就和能力、性格有关。

研究用的 AI 被刻意设定为尽量给出完整答案。辅导式、苏格拉底式的 AI 能不能保住帮助效果、又不削弱坚持力,作者认为方向可取,但三组实验都没有直接检验。在论文结论里,他们把”让用户少用一点""换成提示模式”这类用户端办法称为权宜之计,主张模型开发方在设计时就把用户的长期能力算进去。

对国内课堂和家长意味着什么

国内中小学生接触 AI 做题的入口很多,拍照搜题、作业类应用和通用聊天助手都能一步给出完整解答。这项研究测的正是”给完整答案”这种模式,而且只用了 10 分钟。

几条边界要先说清。参与者是美国在线招募的成年人,题目是基础分数运算和标准化阅读,跟长期、高频的作业场景不是一回事。测试紧跟在撤掉 AI 之后,效应能维持多久没有数据;三项实验也都只看了单次接触,天天用会累积还是会适应,作者说需要纵向研究来回答。

对家长和老师比较有参考意义的,是第二项实验里”要提示”和”要答案”之间那几个百分点的差距:同样有 AI 在手,问法不同,撤掉之后的表现就不一样。这一点目前只是相关性,还等着有人做成对照实验。

参考来源:加州大学伯克利分校新闻稿、CocoLoop、arXiv 论文第五版;论文正文核验三项实验的样本量、正确率、跳过率与使用方式自报比例。