Anthropic 聯合創始人梵蒂岡發聲：坦承商業壓力，呼籲外部監督

當一家前沿 AI 實驗室的聯合創始人站在梵蒂岡的講臺上，最讓人意外的不是他聊了技術，而是他公開承認：單靠這群造 AI 的人自己，根本把持不住。

教宗良十四世釋出了他的首部通諭《Magnifica humanitas》，直譯為《偉大的人性：論人工智慧時代對人的保護》。這份長達 200 頁的重磅檔案把矛頭對準了技術背後的權力集中，而站在教宗身邊一同出席釋出會的，正是 Anthropic 聯合創始人、可解釋性研究負責人 Chris Olah。

這位科學家在教宗面前說了一番極度坦誠的大實話：包括 Anthropic 在內的所有頂尖實驗室，都身處商業生存、地緣政治和個人野心的多重壓力之下。這些利益常常與「做正確的事」發生衝突。他說，哪怕實驗室裡的人主觀上再想向善，也難免被這些激勵機制左右，因此必須有不受這些利益牽制的外部道德聲音介入。

造出來的模型，連研究員自己都覺得怪異

作為研究神經網路內部機理的頂尖學者，Olah 在發言中丟擲了一個很形象的對比：AI 模型根本不是像造橋梁或飛機那樣按部就班設計出來的。

飛機之所以能被人類掌控，是因為我們親手設計了每一個零件，並且完全理解作用在上面的物理定律。但大模型更像是「種」出來的，它們以人類大腦結構為雛形，吞下了人類歷史上海量的語言與思想遺產。

Olah 直言，他們在拆解模型內部時，不斷發現一些神秘甚至令人不安的現象。研究團隊在模型內部觀察到了與人類神經科學相似的結構，發現了自省的證據，甚至捕捉到了在功能上類似於快樂、滿足、恐懼、悲傷和不安的內部狀態。他坦言自己也不知道這究竟意味著什麼，但這已經遠遠超出了電腦科學能夠獨立解釋的範疇。

在他看來，這就像人類親手把虛構角色變成了活生生的存在，而這些角色如今不僅在和我們對話，還在替我們打工。要給這些角色賦予什麼樣的品性、它們該如何與社會互動，答案必須來自哲學、宗教和社會整體，而不是幾個程式設計師在機房裡拍腦袋。

通諭直擊痛點：AI 軍備競賽與新壟斷

教宗在這份長篇通諭裡，其實沒把 AI 當成孤立的技術，而是把它看作一場古老危機的延續。這份檔案直接讓人聯想到 1891 年良十三世針對工業革命勞資衝突發表的《新事通諭》。

良十四世在通諭中直言不諱地警告，由少數技術精英打造並統治的工具，在本質上不可能自然服務於公共利益。當這種權力過度集中，AI 就會放大本就擁有資金、技術和資料優勢者的優勢，他們能夠藉此操縱資訊、重塑消費、左右民主程序，進而將經濟成果全部攬入囊中。

教宗明確呼籲終止當前的「AI 軍備競賽」，並提出要進行「技術繳械」。他說得非常犀利：不能預設誰掌握了技術霸權，誰就天然擁有統治社會的權力。

這一表態的時機也十分耐人尋味。就在幾天前，美國總統唐納德·特朗普在風投投資人、前白宮 AI 官員 David Sacks 的勸說下，推遲簽署了一項旨在要求政府在新模型釋出前進行審查的行政命令。聖座社會科學院成員、Meta 監督委員會主席 Paolo Carozza 教授在接受媒體採訪時也指出，科技行業對人類資料的收割與操縱，正在對人類的「認知自由」構成根本性挑戰，虛假資訊更是在腐蝕民主政治辨別真相的能力。

為什麼重要

我們認為，Chris Olah 出席這次通諭釋出，並不是一場簡單的科技高管公關秀，而是行業權力邏輯正在鬆動的一個危險訊號。

對普通人來說，這份通諭點出了最切身的焦慮：貧困階層是否會被技術無情拋棄，普通家庭如何面對下一代被演算法侵蝕的心智。AI 開發至今高度集中在極少數富裕國家手中，至今沒有任何成熟機制能確保其紅利在全球範圍被公平共享。Olah 在現場向宗教界求助，實際上等於承認：科技界除了會把效率推向極致，對隨之而來的財富分配與社會震盪完全拿不出解法。

對於整個 AI 行業而言，這次事件聰明地撕開了一道裂縫。以往科技巨頭面對監管，往往以「你們不懂底層演算法」為由築起專業壁壘；但當 Anthropic 最頂尖的研究員自己站出來，承認模型內部存在類似情緒的未解機制、承認商業誘惑會扭曲團隊初心時，行業就無法再用技術神話來拒絕外部審查了。

看起來，真正的隱患正在於這種割裂。一邊是實驗室內部對未知智慧特徵的隱秘敬畏，另一邊是資本市場上停不下來的商業變現與軍備狂飆。當監管機構受制於遊說力量而步履維艱時，像梵蒂岡這樣擁有跨國影響力的外部倫理力量入局，很可能會改變全球科技治理的博弈規則：未來的紅線，恐怕不能再由寫程式碼的人自己畫了。