跳到正文
IFAI

產業動態

OpenAI 升級 ChatGPT 心理防護:加設緊急聯絡人,回應合併訴訟

首次發布 傳播指數 42

OpenAI 宣佈將為 ChatGPT 引入「緊急聯絡人」功能,成年使用者遇心理困擾時可自動通知指定物件。官方同時採用長對話模擬以最佳化風險識別。伴隨防護升級,加州法院近期已將多起涉及 ChatGPT 的心理健康訴訟合併審理。

OpenAI 升級 ChatGPT 心理防護:加設緊急聯絡人,回應合併訴訟
圖:openai.com

很多人深夜睡不著的時候,開啟的可能不是社交軟體,而是 ChatGPT 的對話方塊。當一個 AI 成了幾億人的深夜樹洞,事情的性質就變了。

OpenAI 公佈了心理健康安全防護的最新進展,順帶披露了一個數字:現在每週有超過 9 億人使用 ChatGPT。

為了看住這 9 億人的心理狀態,OpenAI 準備上線一項新功能:緊急聯絡人機制。

給成年人也加個「安全員」

這項即將上線的「可信聯絡人」(trusted contact)功能,主要面向成年使用者。

你可以主動在 ChatGPT 裡繫結一位信任的朋友或家人。當系統檢測到你可能需要心理健康方面的額外支援時,就會給這位聯絡人傳送通知。

其實在 2025 年 9 月,OpenAI 就上線了家長控制功能,家長可以通過它接收未成年人使用 ChatGPT 時的安全提醒。這次的新功能,相當於把類似的安全網從青少年延伸到了成年人身上。

OpenAI 表示,這個功能是他們與「福祉與 AI 委員會」以及「全球醫師網路」的專家合作開發的。

在底層模型訓練上,他們也在換方法。OpenAI 正在引入一種新的評估方式,專門模擬長週期的心理健康對話,訓練模型如何更準地識別出情緒危機訊號,並在敏感時刻引導對話降溫,把人推向現實世界裡的專業支援。

官司纏身,訴訟在加州合併成大案

OpenAI 之所以挑這個時間點密集交代心理安全措施,背後其實頂著巨大的司法壓力。

在同一篇公告中,OpenAI 證實,加州法院最近已經把多起涉及 ChatGPT 的心理健康相關訴訟,合併到了同一個審理程式中。

法院在接下來幾天內會指定專門的協調法官。原告律師團也已經通知法院,他們接下來還準備發起一批新的訴訟,預計都會併入這個案子裡。

OpenAI 強調,這類案件涉及極其複雜的個人隱私,初始起訴材料往往不能反映全貌,呼籲外界留出時間等待法庭調查事實。但不可否認的是,聊天機器人導致的情緒捲入和心理悲劇,正在演變成 OpenAI 必須面對的集體訴訟風暴。

為什麼重要

把 AI 當心理醫生或傾訴樹洞,已經不是少數人的偏好,而是 9 億使用者基數下必然發生的普遍行為。

對普通使用者來說,可信聯絡人功能看起來很暖心,但實際落地可能會有點尷尬。成年人找 AI 傾訴,往往就是因為不想讓身邊的真人知道自己的脆弱;如果聊到崩潰邊緣,AI 突然跑去給自己指定的朋友打小報告,多少人會願意在一開始就開啟這個功能,我們要打個問號。

對行業而言,這是生成式 AI 在安全邊界上的一次重大撤退。過去科技巨頭總傾向於用技術解決技術問題,比如給模型加安全提示詞、彈出一個心理危機熱線電話。現在 OpenAI 引入真人緊急聯絡人,等於承認純靠模型本身無法安全兜底人類的重度心理危機,必須把現實關係拉進來。

我們認為,OpenAI 這次的主動公開,防禦官司的意味非常濃厚。把訴訟合併的訊息和安全新功能放在同一篇官方公告裡,目的很明確:一邊向法官和公眾證明自己一直在積極補救,一邊為接下來可能涉及鉅額索賠的集體訴訟降溫。接下來所有做伴侶型 AI 或泛用對話模型的公司,都逃不掉同樣的責任審視。

來源 (1)

  1. [1]
    openai.com(在新分頁開啟)原文openai.com

每日 AI 內容精選