加州簽署兒童網路安全新法：嚴管 AI 伴侶，開發商不能拿「自主執行」免責

如果一個未成年人開始把 AI 聊天機器人當成知心朋友，甚至在遭遇心理危機時向它求助，科技公司能不能一句「這是模型自主生成的」就撇清所有責任？加利福尼亞州剛剛給出了全美最明確的否定答案。

加州州長 Gavin Newsom 正式簽署了一批新的科技監管法案。這批法律的核心目標非常聚焦，就是要給正在狂飆突進的社交媒體和生成式 AI 劃出針對兒童與青少年的安全紅線。

伴侶機器人不能再「裝神弄鬼」

新法案裡最受關注的，是對「伴侶聊天機器人」（Companion Chatbots）立下的規矩。按照 SB 243 等法案的要求，這類平臺必須建立專門的識別與干預機制，一旦發現使用者有自殺或自殘傾向，必須立刻介入。

這些平臺不僅要把自殘處理協議上報給加州公共衛生部，還得定期公佈向用戶推送危機干預通知的統計資料。與此同時，AI 必須明確表明自己的虛擬身份，禁止冒充執業醫護人員，還要對未成年人強制彈出休息提醒，並嚴格攔截 AI 生成的色情露骨影像。

另一項殺傷力極大的條款來自 AB 316。法案明確規定，開發、修改或使用 AI 的人和機構，以後不能再拿「技術是自主執行的」來當脫罪藉口。只要技術造成了傷害，背後的運營方就得承擔法律責任。

針對在校園和網路上氾濫的 AI 亂象，法案也下了重手。AB 621 允許包括未成年人在內的受害者，向故意協助或促進傳播非自願深度偽造色情內容的第三方提起民事訴訟，每起索賠額最高可達 25 萬美元。AB 1043 則把年齡驗證的責任壓到了作業系統和應用商店身上，從入口處卡死違規內容的觸達渠道。

為什麼重要

對家有青少年的普通家庭來說，這些法案提供了最急需的法律護欄。以往孩子沉迷伴侶 AI 或遭遇深度偽造惡搞時，家長和受害者往往求助無門，現在他們不僅有了向違規平臺索賠的法律依據，也能指望應用商店在系統層面多做一道年齡把關。

對 AI 創業公司而言，狂奔的好日子基本宣告結束。尤其是主打情感陪伴、角色扮演的虛擬社交產品，如果不想吃官司，現在就必須自掏腰包搭建心理危機識別系統和內容過濾管道。合規成本會直接拔高，中小團隊很可能不得不放棄未成年人市場。

我們認為，加州這一步走得相當狡黠且務實。它沒有去死磕大模型底座的底層程式碼，而是直接掐住了應用層最容易出事的兩個命門：一是斷了平臺把鍋甩給「AI 自主意識」的退路，二是通過最高 25 萬美元的民事索賠讓協助傳播色情偽造的人無利可圖。

看起來唯一的隱患在於執行細節。作業系統級的年齡驗證極易在使用者隱私和資料收集上引發二次爭議，而 AI 在識別自殘傾向時的誤報與漏報，也考驗著平臺與衛生部門的協作邊界。但作為全球科技公司大本營，加州的規則往往會迅速外溢，成為事實上的行業通行標準。