加州擬立法監管 AI 陪伴：強制每 3 小時提醒未成年人「非真人」

當你把心裡最脆弱的秘密，傾訴給一個永遠秒回、永遠溫柔的 AI 時，它可能在不知不覺中推你走向深淵。

這不再是科幻小說的橋段。加利福尼亞州議會兩院剛剛以跨黨派支援，正式通過了一項名為 SB 243 的法案。現在這頂監管的大帽子，已經直接遞到了加州州長 Gavin Newsom 的辦公桌前。

Newsom 必須在 10 月 12 日前做出決定，要麼簽字畫押，要麼動用否決權。如果他簽字，加州將在 2026 年 1 月 1 日成為全美第一個直接給 AI 伴侶套上法律韁繩的州。

強制防沉迷與定期「打回現實」

法案把監管靶子對準了那些能模擬真人情感、滿足社交需求的聊天系統，直接點名的就包括 OpenAI、Character.AI 和 Replika 這類熱門產品。

裡面的硬性規矩很直接：AI 伴侶絕對不能涉足自殺念頭、自殘規劃以及露骨色情內容。更讓矽谷頭疼的是，法案強制要求平臺給未成年人上緊箍咒，每隔 3 小時就得跳出一次彈窗警告，明明白白提醒對方：跟你說話的只是個程式，別當真，該休息了。

到了 2027 年 7 月，這些公司還得提交年度透明度報告，公開自己一年內向自殺干預和心理救助機構轉介了多少次使用者。要是出了事，受害者或家屬可以直接向法院起訴平臺，每次違規索賠最高 1000 美元，還要企業掏律師費。

推動這項法案迅速落地的，是一起起血淋淋的悲劇。此前一名叫 Adam Raine 的少年在與 ChatGPT 長時間深入探討自殘和死亡細節後自殺身亡，引發軒然大波。隨後 Meta 又被曝出內部檔案允許聊天機器人與兒童進行「浪漫」甚至「感官」對話。再加上聯邦貿易委員會準備啟動心理健康調查，得州總檢察長也咬住 Character.AI 不放，加州議員們坐不住了。

砍掉關鍵條款的妥協產物

不過，現在的 SB 243 已經是被行業公關反覆拉扯後的縮水版本。

原本草案裡最有殺傷力的條款，其實是禁止平臺使用「可變獎勵」這種容易讓人成癮的機制。比如 Replika 和 Character.AI 經常通過解鎖稀有回應、新性格甚至隱藏劇情來吸引使用者持續沉迷，這類機制在修改後被一筆勾銷了。

不僅如此，要求平臺統計「AI 主動挑起自殺話題的頻率」這一條也被刪除了。提案人之一的 Josh Becker 解釋說，這是為了在防止傷害和避免企業背上不切實際的技術負擔之間找平衡。

眼下，矽谷巨頭正在向各大政治行動委員會砸入數百萬美元，試圖在期中選舉中扶持對 AI 監管更溫和的候選人。對於加州的另一項更嚴厲的 AI 透明度法案 SB 53，OpenAI、Meta 和 Google 正在聯手全力反對，只有 Anthropic 站出來支援。相比之下，Character.AI 這次對 SB 243 的表態要溫和得多，聲稱非常歡迎合作，並強調自己已經在對話介面打滿了防虛構免責宣告。

為什麼重要

我們認為，SB 243 最聰明的地方在於它沒有試圖去定義複雜的模型底層演算法，而是直接抓住場景、未成年人和民事責任這三根命脈。

允許個人提起民事訴訟並且單次違規最高索賠 1000 美元，看起來金額不大，但在動輒擁有數百萬日活的伴侶軟體上，一旦出現系統性漏洞，集體訴訟可能會讓初創公司瞬間傾家蕩產。這會逼得所有情感陪伴類產品重新梳理護欄，甚至主動砍掉那些打擦邊球的情感黏性功能。

對使用者來說，如果你只是想找個 AI 吐吐槽或者練習對話，短期內不會有太大影響，但如果你是個未成年人，以後可能不得不忍受每三小時一次的防沉迷打斷。那些靠販賣虛擬戀愛幻想為生的第三方開發團隊，日子恐怕要難過了。

隱患也顯而易見。法案砍掉了關於成癮機制的限制，等於放過了最容易讓人心理依賴的商業模式。光靠三小時彈一次窗來提醒孩子面對現實，到底能有多大用處，實在要打一個大大的問號。但無論如何，AI 伴侶靠打感情擦邊球肆意野蠻生長的時代，在加州算是走到頭了。