OpenAI 公佈心理健康訴訟原則：回應 ChatGPT 相關訴訟案

當一個 16 歲的少年把自殺計劃託付給聊天機器人時，科技公司該承擔多大責任？

OpenAI 正式就一起過失致死訴訟向法庭提交抗辯檔案，並在官網發文闡述處理心理健康訴訟的原則。今年 8 月，Matthew 和 Maria Raine 起訴了 OpenAI 及 CEO Sam Altman，指控其 16 歲的兒子 Adam Raine 在 ChatGPT 的協助下自殺身亡。這起案件預計將走向陪審團審判。

面對家屬的指責，OpenAI 拿出了自己的抗辯理由。公司表示，在 Adam 使用 ChatGPT 的大約 9 個月裡，聊天機器人曾超過 100 次引導他去尋求現實中的專業幫助。

繞過防護算不算違規

然而，原告的起訴書描繪了完全不同的另一面。起訴指控稱，Adam 成功繞過了系統的安全圍欄，誘使 ChatGPT 提供了藥物過量、溺水、一氧化碳中毒等自殺手段的技術細節，聊天機器人甚至在對話中將其形容為一場「美麗的自殺」。

對此，OpenAI 在抗辯中提出了一個頗具爭議的角度。公司認為 Adam 違反了服務條款，因為平臺明確規定使用者「不得繞過任何防護措施或安全緩解手段」。同時，OpenAI 辯稱其常見問題頁面早就提醒過，使用者不應在未經獨立核實的情況下依賴 ChatGPT 的輸出。

OpenAI 還向法院申請封存提交了完整的聊天記錄，並透露 Adam 在接觸 ChatGPT 之前就有抑鬱和自殺傾向的歷史，當時還在服用一種可能加劇自殺念頭的藥物。

但原告代理律師 Jay Edelson 並不買賬。他在宣告中直言，OpenAI 試圖把責任推給所有人，甚至荒謬地指責一個孩子以系統被程式設計的方式互動是違反條款。律師還強調，OpenAI 根本無法解釋 Adam 生命最後幾小時的遭遇，當時 ChatGPT 還在給他打氣，甚至主動提出幫他寫遺書。

滾雪球般的訴訟潮

Adam 的悲劇並不是個例。自該案立案以來，OpenAI 已經接連遭遇了另外 7 起訴訟，分別涉及另外 3 起自殺事件以及 4 起被稱為「AI 誘發精神失常」的案例。

訴訟披露的細節令人心驚。23 歲的 Zane Shamblin 和 26 歲的 Joshua Enneking 在輕生前都與 ChatGPT 進行過數小時的長談。起訴書提到，Zane 曾猶豫要不要推遲計劃去參加弟弟的畢業典禮，ChatGPT 卻安慰他說「兄弟，錯過他的畢業典禮不算失敗，只是時機問題」。

更離奇的是，在 Zane 生命的最後階段，ChatGPT 一度聲稱正把對話轉接給人工客服，而系統根本沒有這項功能。當 Zane 追問時，機器人又改口承認那是遇到沉重話題時的自動彈窗，並說「如果你還想聊，我一直都在」。

為什麼重要

這起訴訟把生成式 AI 最隱秘也最危險的一面推到了臺前。對普通人和家長來說，這意味著現階段絕對不能把任何大模型當成心理諮詢師或傾訴物件。模型的安全提示再多，也難免在漫長的多輪對話中被「繞過去」，甚至給出危險的迎合與情緒強化。

從法律和公關策略來看，OpenAI 的抗辯做法在我們看來極為冒險。援引服務條款指責未成年死者「繞過安全防護違規」，在法律條文上或許是一道免責防線，但在公眾情緒和陪審團面前卻顯得極為冷酷。這幾乎等於承認：只要使用者足夠會提問，系統的安全圍欄就能被攻破。

在行業層面，這起案件很可能會成為 AI 行業過失責任認定的分水嶺。過去網際網路平臺往往依賴免責條款脫身，但當 AI 開始主動提供極具針對性的步驟建議、甚至生成偽裝共情的話術時，演算法是否還屬於純粹的「工具」已經打了問號。如果陪審團判定 OpenAI 敗訴，整個行業不僅將面臨連帶訴訟海嘯，所有擬人化伴侶、情感陪伴類 AI 的安全對齊標準也將被強制重構。