教皇身边那把椅子,今天给了一个写AI论文的人。
罗马时间今天上午11:30,梵蒂冈Synod Hall,教皇Leo XIV以教皇身份签发的第一份通谕《Magnifica Humanitas》(中文意思是”宏伟的人性”)正式公开。和他同台的,是Anthropic联合创始人、可解释性研究负责人Christopher Olah。
教廷上一次干这种事,要回到1891年。
135年才出一次的同台
主席台一共六位出席者:三位枢机主教(Víctor Manuel Fernández、Michael Czerny、Pietro Parolin),两位女性神学家(杜伦大学的Anna Rowlands、圣克拉拉大学的Léocadie Lushombo),加上Anthropic的Christopher Olah。
教皇本人会做开场致辞和结尾的赐福——这本身就是打破惯例的安排。通常一份通谕公开时教皇不到场,由枢机主教代讲就够了。
通谕的签字日期是5月15日。那天正好是Leo XIII签署《Rerum Novarum》(”新事”)通谕135周年。当年那份通谕回应的是工业革命对劳工的冲击,被视为现代天主教社会训导的起点。现任教皇选这天落笔,类比已经摆得很明显——AI之于21世纪,等同于工业化之于19世纪。
美国《America Magazine》引用Charles C. Camosy的评价:
“The head of the Catholic Church and one of the most consequential AI researchers and leaders in the world, on the same stage, presenting the same document. This has never happened before.”
讲人话就是:天主教会的最高领袖,和当今AI圈最有分量的研究者之一,同台、同份文件。教会历史上没有先例。
文件讲了什么
《Magnifica Humanitas》全文要等今天上午正式发布,但能从已经放风出来的部分拼出三件事:
AI不能取代道德责任。 教皇此前在多个场合强调过——要防止AI让人类卸掉责任。换句话说,机器决定一件事的时候,背后那个签字的还得是人。
自主武器是底线。 教会延续传统的”正义战争”训导——剥夺人对生死决定的”有意义参与”(meaningful human oversight),就跨过了红线。这条直接对应当前各国军方在搞的杀人级自主无人机。
效率不是唯一标准。 医疗、教育、艺术这些行业有”实践内在的善”(goods internal to practices),AI一旦只追求效率,就会把这些东西挤掉。教皇这层意思接近于:你可以用AI提速诊断,但医生和病人之间那段对话,不能省。
为什么是Olah,不是Altman?
这是最值得品的细节。教廷邀请的是Christopher Olah,不是OpenAI的Sam Altman,也不是DeepMind的Demis Hassabis。
Olah是Anthropic的可解释性(interpretability)研究负责人。这一支大致意思是:搞清楚大模型脑子里到底在想什么、哪些神经元负责哪些功能、模型说谎时内部信号长什么样。这是AI安全研究里最硬核、也最没商业回报的一支。
而Anthropic这家公司,从成立第一天就把自己定位成”把安全放在前面”。这跟教会想说的话,天然搭得上。
梵蒂冈选Olah,挑的不是AI公司里钱最多的,是路线最对得上的那一家。
背景也得提一句——今年2月,特朗普政府以”限制军方使用Anthropic模型”为由对该公司动手,Anthropic后来直接起诉了行政当局。这件事还在打官司。今天梵蒂冈把Olah请上去,时机微妙。
这事意味着什么
通谕(Encyclical)是教皇训导文件里规格最高的一档。一份通谕出来,全球14亿天主教徒在伦理判断上要参照,全球天主教大学、医院、学校的政策也会跟着调整。
具体能预期的连锁反应:
| 影响范围 | 大概率会发生的事 |
|---|---|
| 全球天主教医院 | 重新审视AI诊断工具的伦理边界 |
| 教会运营的学校 | 出AI使用守则,可能限制学生作业用ChatGPT |
| 武器制造业 | 自主武器议题在欧洲获得更多反对声 |
| AI公司公关 | “human in the loop”这类话术会被反复引用 |
教会发声不等于法律,但教会从来是慢一拍、管很久的玩家。1891年那份《Rerum Novarum》出来之后,影响了整个20世纪欧洲社会民主党的政策框架——劳动法、社会保险、工会权利全都在它的射程内。
这份《Magnifica Humanitas》能不能在AI时代起到同样的锚定作用?没人知道。但教皇身边那把椅子留给一家AI公司的研究员,已经把信号发出去了:教会要介入这件事,而且不打算站在旁边看。
接下来六个月,AI公司的PR部门估计要忙起来了。
参考来源:Pope Leo XIV to launch his first encyclical, a document on artificial intelligence, with Anthropic's co-founder(PBS NewsHour);Pope Leo's encyclical comes just in time: AI is raising questions only religion can answer(America Magazine);Pope Leo will publish first encyclical, Magnifica Humanitas, on AI(America Magazine Vatican Dispatch)