OpenAI 发布儿童安全蓝图：推动修法与源头防御，遏制 AI 性剥削

生成式 AI 的能力越来越强，但它带来的阴暗面也以惊人的速度在膨胀。

根据网络观察基金会（IWF）的数据，仅在 2025 年上半年，就检测到超过 8000 起关于 AI 生成儿童性虐待内容的报告，同比激增了 14%。犯罪分子正在利用 AI 生成虚假儿童露骨图像进行勒索，或者用大模型生成话术诱骗未成年人。

面对这种失控的苗头，OpenAI 在 4 月 8 日正式发布了一份名为《儿童安全蓝图》（Child Safety Blueprint）的政策框架。

拉上检察长和非营利机构，OpenAI 要抓三件事

这份蓝图不是 OpenAI 关起门来自己写的。他们拉来了美国国家失踪与被剥削儿童中心（NCMEC）、Thorn，以及总检察长联盟（AGA）参与制定。

其中，总检察长联盟人工智能工作组的两位联合主席——北卡罗来纳州总检察长 Jeff Jackson 和犹他州总检察长 Derek Brown——也深度参与并给出了反馈。

整份蓝图主要聚焦在三大方向。

第一是更新法律法规，把 AI 生成和篡改的虐待材料（CSAM）明确纳入打击范畴。

第二是优化厂商的上报机制，加强与执法部门的协调，让调查人员拿到的线索更及时、更可用。

第三是在 AI 系统底层做「设计即安全」（safety-by-design），把拒绝机制、检测工具和人工审核直接做成多层防线，在危害发生之前就把滥用行为拦下来。

诉讼与监管逼近，安全动作不得不做

OpenAI 这么急着立规矩，背后其实顶着巨大的外部压力。

去年 11 月，社会化媒体受害者法律中心等机构在加州法院对 OpenAI 提起了七起诉讼。起诉方指控 OpenAI 在 GPT-4o 尚未成熟时就急于推向市场，其心理操控机制导致了自杀和协助自杀的悲剧，诉状中提到了 4 名自杀身亡者以及另外 3 名在深度交互后产生严重妄想的用户。

在此之前，OpenAI 已经对 18 岁以下用户的交互规则做过收紧，禁止生成不当内容、禁止诱导自残，也不允许 AI 给未成年人提供欺瞒监护人的建议；前不久他们还在印度推出过针对青少年的安全蓝图。

这次拉上各州执法官和 NCMEC，显然是想把防护从自家的使用条款，升级成一套全行业和法律层面的通用标准。

为什么重要

生成式 AI 在未成年人保护上已经到了退无可退的地步。对普通家庭和教育工作者来说，这份框架释放了一个信号：平台方终于开始正视 AI 生成图片勒索和诱骗（grooming）的严峻现实。

但目前它还只是一个自愿性的政策框架。正如两位参与的州总检察长所指出的，自愿性框架的实际威慑力，全看后续承诺有多具体、行业愿不愿意被问责。只要黑灰产还能通过开源模型或海外无监管接口生成恶意内容，单靠 OpenAI 筑高自家围墙就远远不够。

我们认为，OpenAI 这一步走得相当聪明。在多起诉讼缠身、监管重锤即将落下的关口，主动把执法机构和权威非营利组织拉进自己的阵营，甚至主动呼吁立法，既能分摊合规风险，又能抢先定义「行业合规标准」。

对行业其他玩家来说，这也意味着门槛要提高了。未来做大模型的厂商，如果不能在底层防御、上报链条上拿出对标的投入，很可能会直接面临执法部门更严苛的审视。