OpenAI 考虑放宽限制：正在探讨如何「负责任地」生成成人内容

一直以来，AI 厂商对成人内容向来是避之唯恐不及。你在 ChatGPT 里稍微打个擦边球，往往换来的都是冷冰冰的一句无法生成。

不过，这家全球最受瞩目的 AI 公司正打算松动这条红线。OpenAI 在一份探讨模型行为规范的说明文档中提出，正在探索如何负责任地允许生成 NSFW 内容，包括色情文本、裸体以及具有性意味的创作，前提是处于适龄场景下。

消息一出，舆论立刻炸了锅。

探风向的试水，还是想吃禁果

OpenAI 产品团队成员 Joanne Jang 在接受 NPR 采访时表示，公司希望启动一场讨论，探讨在不违法且不侵犯他人权利的前提下，尽可能赋予用户最大控制权。

按 Joanne Jang 的说法，在某些艺术创作和文学表达中，涉及性和裸体的内容对创作者相当重要。但这并不意味着 OpenAI 现在就要主动做色情生成器，具体算不算色情，取决于不同人的定义。

OpenAI 随后也在官方声明中强调，绝对禁止利用 AI 制作任何换脸伪造内容（Deepfake），重点在于保护未成年人，只会在适龄环境下探索性相关内容的边界。

但这已经不是 OpenAI 第一次试探底线了。早前其首席技术官 Mira Murati 在接受《华尔街日报》采访时，就被问及视频生成工具 Sora 未来是否会开放成人内容，她当时就给了一个意味深长的回答：不太确定。

行业泼来一盆冷水

外界对 OpenAI 的这番说辞普遍存疑，甚至批评其正在背离自身安全有益的创立宗旨。

英国上议院议员、儿童在线安全倡导者 Beeban Kidron 指责 OpenAI 正在迅速削弱自己的使命宣言，批评科技公司不去解决既有的技术危害，反而打起成人内容这种商业算盘。

达勒姆大学专门研究色情管制的法学教授 Clare McGlynn 则直接表示，她对任何科技公司所谓负责任生产成人内容的承诺都深表怀疑。现实里很难界定什么才是真正合规、经由同意的成人素材。

技术拦截从来都不是密不透风的。今年 1 月，基于 OpenAI 模型的微软 Designer 工具就曾被人钻空子，生成了泰勒·斯威夫特的大量虚假裸照。而在英国、新西兰和澳大利亚的一项民调中，16 到 64 岁受访者里有 14% 曾遭遇深度伪造图像的伤害。

更现实的问题是版权。成人内容从业者指出，OpenAI 的模型是在海量公开网络数据上训练出来的，其中难免混入了成人创作。如果官方直接下场开放成人内容生成，无异于拿着创作者的作品训练模型，反过来抢创作者的饭碗。

为什么重要

成人内容向来是互联网新技术的催化剂，但对 OpenAI 来说，这步棋风险极大。

对创作者和开发者来说，如果 OpenAI 真的能理清界限，文学创作、艺术设计和人体解剖等边缘场景确实能松一口气，不用动辄触发安全风控。但只要大门开了一条缝，黑产和擦边内容就会蜂拥而至，如何在 API 层面做到精准的适龄识别，目前整个行业根本没有成熟的解决方案。

对行业竞争而言，开源社区和大量未经审查的小模型已经在成人领域赚足了眼球和流量。OpenAI 此时放风，看起来是在防守这块流失的用户基本盘，试图把那些因为严苛规则转向开源模型的开发者拉回来。

我们认为，OpenAI 提出负责任地探索，逻辑上很难自圆其说。现有的文本和图像安全过滤机制尚且漏洞百出，在没有办法彻底杜绝非自愿色情和深度伪造的情况下，贸然试探成人内容红线，不仅会给监管机构送上把柄，也更容易引发公众信任危机。