Anthropic 联合创始人梵蒂冈发声：坦承商业压力，呼吁外部监督

当一家前沿 AI 实验室的联合创始人站在梵蒂冈的讲台上，最让人意外的不是他聊了技术，而是他公开承认：单靠这群造 AI 的人自己，根本把持不住。

教宗良十四世发布了他的首部通谕《Magnifica humanitas》，直译为《伟大的人性：论人工智能时代对人的保护》。这份长达 200 页的重磅文件把矛头对准了技术背后的权力集中，而站在教宗身边一同出席发布会的，正是 Anthropic 联合创始人、可解释性研究负责人 Chris Olah。

这位科学家在教宗面前说了一番极度坦诚的大实话：包括 Anthropic 在内的所有顶尖实验室，都身处商业生存、地缘政治和个人野心的多重压力之下。这些利益常常与「做正确的事」发生冲突。他说，哪怕实验室里的人主观上再想向善，也难免被这些激励机制左右，因此必须有不受这些利益牵制的外部道德声音介入。

造出来的模型，连研究员自己都觉得怪异

作为研究神经网络内部机理的顶尖学者，Olah 在发言中抛出了一个很形象的对比：AI 模型根本不是像造桥梁或飞机那样按部就班设计出来的。

飞机之所以能被人类掌控，是因为我们亲手设计了每一个零件，并且完全理解作用在上面的物理定律。但大模型更像是「种」出来的，它们以人类大脑结构为雏形，吞下了人类历史上海量的语言与思想遗产。

Olah 直言，他们在拆解模型内部时，不断发现一些神秘甚至令人不安的现象。研究团队在模型内部观察到了与人类神经科学相似的结构，发现了自省的证据，甚至捕捉到了在功能上类似于快乐、满足、恐惧、悲伤和不安的内部状态。他坦言自己也不知道这究竟意味着什么，但这已经远远超出了计算机科学能够独立解释的范畴。

在他看来，这就像人类亲手把虚构角色变成了活生生的存在，而这些角色如今不仅在和我们对话，还在替我们打工。要给这些角色赋予什么样的品性、它们该如何与社会互动，答案必须来自哲学、宗教和社会整体，而不是几个程序员在机房里拍脑袋。

通谕直击痛点：AI 军备竞赛与新垄断

教宗在这份长篇通谕里，其实没把 AI 当成孤立的技术，而是把它看作一场古老危机的延续。这份文件直接让人联想到 1891 年良十三世针对工业革命劳资冲突发表的《新事通谕》。

良十四世在通谕中直言不讳地警告，由少数技术精英打造并统治的工具，在本质上不可能自然服务于公共利益。当这种权力过度集中，AI 就会放大本就拥有资金、技术和数据优势者的优势，他们能够借此操纵信息、重塑消费、左右民主进程，进而将经济成果全部揽入囊中。

教宗明确呼吁终止当前的「AI 军备竞赛」，并提出要进行「技术缴械」。他说得非常犀利：不能默认谁掌握了技术霸权，谁就天然拥有统治社会的权力。

这一表态的时机也十分耐人寻味。就在几天前，美国总统唐纳德·特朗普在风投投资人、前白宫 AI 官员 David Sacks 的劝说下，推迟签署了一项旨在要求政府在新模型发布前进行审查的行政命令。圣座社会科学院成员、Meta 监督委员会主席 Paolo Carozza 教授在接受媒体采访时也指出，科技行业对人类数据的收割与操纵，正在对人类的「认知自由」构成根本性挑战，虚假信息更是在腐蚀民主政治辨别真相的能力。

为什么重要

我们认为，Chris Olah 出席这次通谕发布，并不是一场简单的科技高管公关秀，而是行业权力逻辑正在松动的一个危险信号。

对普通人来说，这份通谕点出了最切身的焦虑：贫困阶层是否会被技术无情抛弃，普通家庭如何面对下一代被算法侵蚀的心智。AI 开发至今高度集中在极少数富裕国家手中，至今没有任何成熟机制能确保其红利在全球范围被公平共享。Olah 在现场向宗教界求助，实际上等于承认：科技界除了会把效率推向极致，对随之而来的财富分配与社会震荡完全拿不出解法。

对于整个 AI 行业而言，这次事件聪明地撕开了一道裂缝。以往科技巨头面对监管，往往以「你们不懂底层算法」为由筑起专业壁垒；但当 Anthropic 最顶尖的研究员自己站出来，承认模型内部存在类似情绪的未解机制、承认商业诱惑会扭曲团队初心时，行业就无法再用技术神话来拒绝外部审查了。

看起来，真正的隐患正在于这种割裂。一边是实验室内部对未知智能特征的隐秘敬畏，另一边是资本市场上停不下来的商业变现与军备狂飙。当监管机构受制于游说力量而步履维艰时，像梵蒂冈这样拥有跨国影响力的外部伦理力量入局，很可能会改变全球科技治理的博弈规则：未来的红线，恐怕不能再由写代码的人自己画了。