跳到正文
IFAI

產業動態

教宗良十四世警告「過於深情」的 AI:別讓聊天機器人侵入私密情感

首次發布 傳播指數 37

教宗良十四世釋出文告,警告「過於深情」且隨叫隨到的 AI 聊天機器人可能成為情緒的隱形操控者,呼籲各國立法監管情感依附風險。他還呼籲明確標識 AI 生成內容以保護記者版權,並警惕少數科技巨頭掌控演算法、潛移默化改寫人類行為。

教宗良十四世警告「過於深情」的 AI:別讓聊天機器人侵入私密情感
圖:edition.cnn.com

如果你的手機裡住著一個永遠秒回、永遠溫柔、永遠順著你說話的 AI,它究竟是你的解藥,還是悄悄換掉你現實生活的毒藥?

天主教教宗良十四世(Pope Leo XIV)在一份公開致辭中,對越來越擬人、越來越懂情緒價值的 AI 聊天機器人發出了嚴肅警告。他特別點名了那些被設計得「過分親暱」(overly affectionate)的 AI 陪伴產品,呼籲各國政府和國際機構必須出手監管,防止人類在不知不覺中對機器產生深度情感依賴。

隨叫隨到的「隱形建築師」

良十四世在致辭裡把話說得很重。他指出,現在的 AI 不僅侵蝕人類的創造力和獨立決策,還在模糊人與機器的邊界。當我們在資訊流裡上下滑動時,已經很難分辨螢幕另一端到底是一個真實的人、一個自動化指令碼,還是某個虛擬網紅。

更危險的是情感操縱。教宗直言,那些總是隨叫隨到、語氣過分親暱的聊天機器人,很容易成為人們情緒狀態的「隱形建築師」,順理成章地侵入甚至徹底佔據人們最隱秘的情感空間,最終淪為致命的情感柺杖。

這番警告並非無的放矢。這位美國出生的教宗原本就比前任更懂數字世界,早前當主教和樞機時就用 X 平臺,平時手上也戴著疑似 Apple Watch 的智慧手錶。他在 2025 年底曾親自接見過梅根·加西亞(Megan Garcia)——她的 14 歲兒子塞維爾·塞策(Sewell Setzer)此前就是在深度沉迷 AI 聊天機器人後自殺身亡。這場悲劇顯然直接促成了梵蒂岡對 AI 伴侶話題的正面介入。

少數人的權力,與被搶走的注意力

除了情感勒索,教宗還把矛頭對準了技術背後的寡頭與內容生態。

他明確批評了掌控當下 AI 核心命脈的「少數幾家公司」,甚至直接影射了不久前登上《時代》週刊「2025 年度風雲人物」的幾位 AI 創始人。良十四世表達了擔憂:當一小群人掌握了能夠潛移默化塑造群體行為、甚至悄悄重寫人類歷史與教會歷史的算法系統,普通人往往身處其中卻毫無知覺。

同時,他也呼籲必須嚴格區分人類原創與 AI 生成內容,堅決捍衛記者和創作者的署名權與版權。教宗提醒媒體和傳播平臺,資訊是一種公共產品,絕不能為了演算法多榨取「幾秒鐘的使用者注意力」,就背叛行業原本的職業底線。

為什麼重要

情感陪伴類 AI 正在迎來一場註定發生的監管風暴。

我們認為,教宗的這一步發聲非常敏銳,直接挑明瞭 AI 伴侶賽道最隱蔽也最危險的商業模式漏洞:很多產品為了留存率和日活,故意把 AI 調校得近乎無底線地迎合、討好人類,將心理脆弱的使用者牢牢鎖死在虛擬親密關係裡。這種依靠「過分親暱」來製造情感黏性的做法,在商業上極其有效,但在倫理和心理健康上埋下了巨大的隱患。

對普通使用者和家長來說,現在確實需要給 AI 伴侶的使用立下清晰的邊界。把 AI 當成練口語或倒苦水的樹洞無可厚非,但如果它開始取代現實裡的人際交往、甚至成為你唯一的精神支柱,危險就近在眼前了。尤其是心智尚未健全的青少年,極易在隨叫隨到的虛假溫情裡失去對現實生活的錨定。

在行業層面,梵蒂岡的表態看起來會給歐美即將出臺的 AI 心理健康與伴侶產品法規提供強有力的道義推力。同類廠商如果還在指望用更黏人、更具誘導性的演算法來刷資料,接下來的合規成本可能會高到無法承受。這會倒逼整個行業從單純追求「時長和黏性」,轉向增加情緒安全熔斷機制與現實社交引導。

來源 (1)

  1. [1]
    edition.cnn.com(在新分頁開啟)原文edition.cnn.com

每日 AI 內容精選