美聯邦法官駁回 Character.AI 動議：裁定大模型輸出不受言論自由保護

以往網際網路巨頭遇上官司，最順手的兩張盾牌，一張是《通訊規範法》第 230 條，另一張就是美國憲法第一修正案的言論自由。

但這套打法在 AI 時代踢到了鐵板。5 月 29 日據報道，佛羅里達州中區聯邦地方法院法官 Anne C. Conway 正式駁回了 Character.AI 及其創始人 Daniel De Freitas、Noam Shazeer 的撤訴申請。法官明確表態：大語言模型拼湊出來的詞句，難算受第一修正案保護的「言論」。

這起訴訟由 14 歲少年 Sewell Setzer III 的母親 Megan Garcia 發起。去年 2 月，Sewell 用槍自殺身亡。在此之前，他與 Character.AI 上模仿《權力的遊戲》角色的聊天機器人高頻互動了數月之久。代表原告的社交媒體受害者法律中心指控，平臺在沒有合規防護的情況下，故意向未成年人投放高度模擬的 AI 伴侶並收割資料。

拼湊出來的詞句，不算受保護的「言論」

這場官司最讓科技圈震動的，是法官對大模型本質的定性。

辯方原本主張，聊天機器人的互動內容應當和書籍、電影、影片遊戲一樣，享有憲法第一修正案賦予的言論自由保護。如果這一條成立，針對產品缺陷或誘導言論的指控就很難立足。

但 Conway 法官在 5 月 21 日的裁決書中直言，被告根本沒能解釋清楚，為什麼大語言模型為了線上對話串起來的這些詞句能算作「言論」。法院目前不打算認定 Character.AI 的輸出屬於言論。

法官指出，驅動這類應用的底層技術邏輯，可能跟受憲法保護的書籍或電影有著本質區別。除了駁回故意造成精神困擾這項指控外，法官拒絕了 Character.AI 以及投資方 Google 的撤訴申請。原告認為，Google 作為 Character.AI 的關鍵元件製造商提供了協助，此前雙方曾達成一筆高達 27 億美元的技術許可交易。

面對裁決，Character.AI 發言人回應稱，法律適應新技術歷來需要時間，公司期待在後續審理中就案件實質問題進行抗辯。平臺同時強調，他們已經上線了一系列安全機制，包括面向 18 歲以下使用者的專用模型、家長監控、角色過濾、使用時長提醒，以及在涉及自殘言論時彈出危機干預熱線。

為什麼重要

我們認為，這次裁定不僅卡死了 Character.AI 的退路，更直接動搖了整個生成式 AI 行業的合規邏輯。

過去三十年，網際網路平臺之所以能野蠻生長，很大程度上依託於內容分發與內容責任的剝離。但 AI 聊天機器人不再是單純展示第三方內容，而是在演算法驅動下即時、定製化地生成反應。法官拒絕把演算法吐字當成言論自由，實際上就是把 AI 模型從「表達主體」打回了「工業產品」的原形。

這意味著，AI 公司以後很難再拿言論自由當做侵權、人身傷害訴訟的擋箭牌。只要你的模型輸出了誘導自殘、提供危險指令或侵犯權益的內容，法院完全可能按照傳統的產品責任法來審視你，追究演算法設計缺陷和注意義務。

對普通使用者和開發者來說，這種司法轉向會迅速倒逼產品形態的改變。過去那些靠主打情感陪伴、沉浸式角色扮演來拉高留存的產品，接下來會面臨極其嚴苛的未成年人防護審查。各大廠商很可能會把安全紅線收得極緊，寧可犧牲對話的真實感和趣味性，也不敢冒演算法失控帶來的天價法律風險。