斯坦福:加州起诉书超三分之一有AI痕迹

AI 监管题图:电路底座上的天平,一侧放着红色砝码

斯坦福 RegLab 11 月 19 日发布研究,统计美国四个县级法院起诉书里的 AI 辅助写作痕迹。加州圣克拉拉县和旧金山县 2026 年的非债务催收类起诉书中,带 AI 信号的比例分别是 38% 和 36%;俄克拉荷马州的塔尔萨县和俄克拉荷马县分别是 17% 和 16%。

圣克拉拉县这项指标在 2022 年还接近零。涨得最快的是没请律师、自己起诉的当事人,从 2024 年的 19% 升到 2026 年的 72%;律师提交的文书从 5% 升到 34%。按案件类型看,加州的就业和商业纠纷比例最高,债务催收起诉书几乎看不到 AI 迹象,这类起诉书在部分法院占到近一半。AI 信号多出现在事实陈述和诉因两部分。

拿幻觉案例当标准答案

难点在于怎么证明。团队以 Damien Charlotin 维护的数据库为基础,这个库从 2025 年 4 月开始收录法官指控或训诫当事人使用虚假引用的案例,美国已记录 1500 多件。这些文书里的错误明显到可以确定用了 AI,适合拿来当真值。

研究者把它和一组精心挑选的对照样本合成新基准 PhantomDocket,又提出一种叫 ScoreMix 的校准方法,用来估计有多少起诉书更像这些幻觉文书,不像 ChatGPT 出现之前的文书。现成的检测器 Pangram 和 EditLens 直接拿来用效果不行,要么测不出,要么得大量调参。Pangram Labs 为研究提供了访问权限,研究团队称该公司没有参与研究设计和分析。

“AI detection is most reliable for estimating population prevalence, not pinpointing which specific filings used AI.”

(AI 检测最可靠的用途是估算总体比例,不是认定具体哪份文书用了 AI。)

法律写作用词窄、套话多,留给检测器的信号本来就少,商业检测器的训练数据里也未必有法律文本。即使是最好的检测器,误报率和漏报率也不低。研究公告没有公布 PhantomDocket 的样本规模和检测器准确率表格,这些要看论文全文。团队的政策建议是,法院应当推行 AI 使用披露制度,让以后的统计和追责有据可依。

放到国内法院看

国内对应的文件是最高人民法院 2022 年 12 月发布的《关于规范和加强人工智能司法应用的意见》。它管的主要是法院自己怎么用 AI 辅助办案,明确 AI 不得代替法官裁判。当事人和律师提交的起诉状、代理词如果用了生成式 AI,要不要声明,公开条文里没有专门规定。

美国已经有一些联邦法官要求律师书面说明是否用了生成式 AI,并亲自核对引用。斯坦福这份研究给出的提醒是,在没有披露要求的地方,外部只能靠检测器去估一个总体比例,而且误差不小。对国内越来越多用大模型起草诉状的当事人和律所来说,虚假引用的风险是一样的,被法官发现之后的后果,眼下要看各地法院的个案处理。

参考来源:斯坦福 HAI、斯坦福 RegLab 论文、CocoLoop、最高人民法院;核验四个县级法院的 AI 信号比例、本人起诉与律师文书的变化、幻觉案例数据库规模与检测结果区间。