加州签署儿童网络安全新法：严管 AI 伴侣，开发商不能拿「自主运行」免责

如果一个未成年人开始把 AI 聊天机器人当成知心朋友，甚至在遭遇心理危机时向它求助，科技公司能不能一句「这是模型自主生成的」就撇清所有责任？加利福尼亚州刚刚给出了全美最明确的否定答案。

加州州长 Gavin Newsom 正式签署了一批新的科技监管法案。这批法律的核心目标非常聚焦，就是要给正在狂飙突进的社交媒体和生成式 AI 划出针对儿童与青少年的安全红线。

伴侣机器人不能再「装神弄鬼」

新法案里最受关注的，是对「伴侣聊天机器人」（Companion Chatbots）立下的规矩。按照 SB 243 等法案的要求，这类平台必须建立专门的识别与干预机制，一旦发现用户有自杀或自残倾向，必须立刻介入。

这些平台不仅要把自残处理协议上报给加州公共卫生部，还得定期公布向用户推送危机干预通知的统计数据。与此同时，AI 必须明确表明自己的虚拟身份，禁止冒充执业医护人员，还要对未成年人强制弹出休息提醒，并严格拦截 AI 生成的色情露骨图像。

另一项杀伤力极大的条款来自 AB 316。法案明确规定，开发、修改或使用 AI 的人和机构，以后不能再拿「技术是自主运行的」来当脱罪借口。只要技术造成了伤害，背后的运营方就得承担法律责任。

针对在校园和网络上泛滥的 AI 乱象，法案也下了重手。AB 621 允许包括未成年人在内的受害者，向故意协助或促进传播非自愿深度伪造色情内容的第三方提起民事诉讼，每起索赔额最高可达 25 万美元。AB 1043 则把年龄验证的责任压到了操作系统和应用商店身上，从入口处卡死违规内容的触达渠道。

为什么重要

对家有青少年的普通家庭来说，这些法案提供了最急需的法律护栏。以往孩子沉迷伴侣 AI 或遭遇深度伪造恶搞时，家长和受害者往往求助无门，现在他们不仅有了向违规平台索赔的法律依据，也能指望应用商店在系统层面多做一道年龄把关。

对 AI 创业公司而言，狂奔的好日子基本宣告结束。尤其是主打情感陪伴、角色扮演的虚拟社交产品，如果不想吃官司，现在就必须自掏腰包搭建心理危机识别系统和内容过滤管道。合规成本会直接拔高，中小团队很可能不得不放弃未成年人市场。

我们认为，加州这一步走得相当狡黠且务实。它没有去死磕大模型底座的底层代码，而是直接掐住了应用层最容易出事的两个命门：一是断了平台把锅甩给「AI 自主意识」的退路，二是通过最高 25 万美元的民事索赔让协助传播色情伪造的人无利可图。

看起来唯一的隐患在于执行细节。操作系统级的年龄验证极易在用户隐私和数据收集上引发二次争议，而 AI 在识别自残倾向时的误报与漏报，也考验着平台与卫生部门的协作边界。但作为全球科技公司大本营，加州的规则往往会迅速外溢，成为事实上的行业通行标准。