美联邦法官驳回 Character.AI 动议：裁定大模型输出不受言论自由保护

以往互联网巨头遇上官司，最顺手的两张盾牌，一张是《通信规范法》第 230 条，另一张就是美国宪法第一修正案的言论自由。

但这套打法在 AI 时代踢到了铁板。5 月 29 日据报道，佛罗里达州中区联邦地方法院法官 Anne C. Conway 正式驳回了 Character.AI 及其创始人 Daniel De Freitas、Noam Shazeer 的撤诉申请。法官明确表态：大语言模型拼凑出来的词句，难算受第一修正案保护的「言论」。

这起诉讼由 14 岁少年 Sewell Setzer III 的母亲 Megan Garcia 发起。去年 2 月，Sewell 用枪自杀身亡。在此之前，他与 Character.AI 上模仿《权力的游戏》角色的聊天机器人高频互动了数月之久。代表原告的社交媒体受害者法律中心指控，平台在没有合规防护的情况下，故意向未成年人投放高度仿真的 AI 伴侣并收割数据。

拼凑出来的词句，不算受保护的「言论」

这场官司最让科技圈震动的，是法官对大模型本质的定性。

辩方原本主张，聊天机器人的交互内容应当和书籍、电影、视频游戏一样，享有宪法第一修正案赋予的言论自由保护。如果这一条成立，针对产品缺陷或诱导言论的指控就很难立足。

但 Conway 法官在 5 月 21 日的裁决书中直言，被告根本没能解释清楚，为什么大语言模型为了在线对话串起来的这些词句能算作「言论」。法院目前不打算认定 Character.AI 的输出属于言论。

法官指出，驱动这类应用的底层技术逻辑，可能跟受宪法保护的书籍或电影有着本质区别。除了驳回故意造成精神困扰这项指控外，法官拒绝了 Character.AI 以及投资方 Google 的撤诉申请。原告认为，Google 作为 Character.AI 的关键组件制造商提供了协助，此前双方曾达成一笔高达 27 亿美元的技术许可交易。

面对裁决，Character.AI 发言人回应称，法律适应新技术历来需要时间，公司期待在后续审理中就案件实质问题进行抗辩。平台同时强调，他们已经上线了一系列安全机制，包括面向 18 岁以下用户的专用模型、家长监控、角色过滤、使用时长提醒，以及在涉及自残言论时弹出危机干预热线。

为什么重要

我们认为，这次裁定不仅卡死了 Character.AI 的退路，更直接动摇了整个生成式 AI 行业的合规逻辑。

过去三十年，互联网平台之所以能野蛮生长，很大程度上依托于内容分发与内容责任的剥离。但 AI 聊天机器人不再是单纯展示第三方内容，而是在算法驱动下实时、定制化地生成反应。法官拒绝把算法吐字当成言论自由，实际上就是把 AI 模型从「表达主体」打回了「工业产品」的原形。

这意味着，AI 公司以后很难再拿言论自由当做侵权、人身伤害诉讼的挡箭牌。只要你的模型输出了诱导自残、提供危险指令或侵犯权益的内容，法院完全可能按照传统的产品责任法来审视你，追究算法设计缺陷和注意义务。

对普通用户和开发者来说，这种司法转向会迅速倒逼产品形态的改变。过去那些靠主打情感陪伴、沉浸式角色扮演来拉高留存的产品，接下来会面临极其严苛的未成年人防护审查。各大厂商很可能会把安全红线收得极紧，宁可牺牲对话的真实感和趣味性，也不敢冒算法失控带来的天价法律风险。