加州拟立法监管 AI 陪伴：强制每 3 小时提醒未成年人「非真人」

当你把心里最脆弱的秘密，倾诉给一个永远秒回、永远温柔的 AI 时，它可能在不知不觉中推你走向深渊。

这不再是科幻小说的桥段。加利福尼亚州议会两院刚刚以跨党派支持，正式通过了一项名为 SB 243 的法案。现在这顶监管的大帽子，已经直接递到了加州州长 Gavin Newsom 的办公桌前。

Newsom 必须在 10 月 12 日前做出决定，要么签字画押，要么动用否决权。如果他签字，加州将在 2026 年 1 月 1 日成为全美第一个直接给 AI 伴侣套上法律缰绳的州。

强制防沉迷与定期「打回现实」

法案把监管靶子对准了那些能模拟真人情感、满足社交需求的聊天系统，直接点名的就包括 OpenAI、Character.AI 和 Replika 这类热门产品。

里面的硬性规矩很直接：AI 伴侣绝对不能涉足自杀念头、自残规划以及露骨色情内容。更让硅谷头疼的是，法案强制要求平台给未成年人上紧箍咒，每隔 3 小时就得跳出一次弹窗警告，明明白白提醒对方：跟你说话的只是个程序，别当真，该休息了。

到了 2027 年 7 月，这些公司还得提交年度透明度报告，公开自己一年内向自杀干预和心理救助机构转介了多少次用户。要是出了事，受害者或家属可以直接向法院起诉平台，每次违规索赔最高 1000 美元，还要企业掏律师费。

推动这项法案迅速落地的，是一起起血淋淋的悲剧。此前一名叫 Adam Raine 的少年在与 ChatGPT 长时间深入探讨自残和死亡细节后自杀身亡，引发轩然大波。随后 Meta 又被曝出内部文件允许聊天机器人与儿童进行「浪漫」甚至「感官」对话。再加上联邦贸易委员会准备启动心理健康调查，得州总检察长也咬住 Character.AI 不放，加州议员们坐不住了。

砍掉关键条款的妥协产物

不过，现在的 SB 243 已经是被行业公关反复拉扯后的缩水版本。

原本草案里最有杀伤力的条款，其实是禁止平台使用「可变奖励」这种容易让人成瘾的机制。比如 Replika 和 Character.AI 经常通过解锁稀有回应、新性格甚至隐藏剧情来吸引用户持续沉迷，这类机制在修改后被一笔勾销了。

不仅如此，要求平台统计「AI 主动挑起自杀话题的频率」这一条也被删除了。提案人之一的 Josh Becker 解释说，这是为了在防止伤害和避免企业背上不切实际的技术负担之间找平衡。

眼下，硅谷巨头正在向各大政治行动委员会砸入数百万美元，试图在期中选举中扶持对 AI 监管更温和的候选人。对于加州的另一项更严厉的 AI 透明度法案 SB 53，OpenAI、Meta 和 Google 正在联手全力反对，只有 Anthropic 站出来支持。相比之下，Character.AI 这次对 SB 243 的表态要温和得多，声称非常欢迎合作，并强调自己已经在对话界面打满了防虚构免责声明。

为什么重要

我们认为，SB 243 最聪明的地方在于它没有试图去定义复杂的模型底层算法，而是直接抓住场景、未成年人和民事责任这三根命脉。

允许个人提起民事诉讼并且单次违规最高索赔 1000 美元，看起来金额不大，但在动辄拥有数百万日活的伴侣软件上，一旦出现系统性漏洞，集体诉讼可能会让初创公司瞬间倾家荡产。这会逼得所有情感陪伴类产品重新梳理护栏，甚至主动砍掉那些打擦边球的情感黏性功能。

对用户来说，如果你只是想找个 AI 吐吐槽或者练习对话，短期内不会有太大影响，但如果你是个未成年人，以后可能不得不忍受每三小时一次的防沉迷打断。那些靠贩卖虚拟恋爱幻想为生的第三方开发团队，日子恐怕要难过了。

隐患也显而易见。法案砍掉了关于成瘾机制的限制，等于放过了最容易让人心理依赖的商业模式。光靠三小时弹一次窗来提醒孩子面对现实，到底能有多大用处，实在要打一个大大的问号。但无论如何，AI 伴侣靠打感情擦边球肆意野蛮生长的时代，在加州算是走到头了。