OpenAI 与 TikTok 等 10 家公司签署准则：承诺主动标识 AI 生成内容

现在你在网上刷到一段视频，已经越来越难分清到底是用相机拍的，还是被算法捏出来的。

生成式 AI 狂飙突进，官方监管还在后面紧赶慢赶，走在前面的大厂们决定先给自己套个笼头。

OpenAI、TikTok、Adobe、BBC 以及约会软件 Bumble 等 10 家机构，共同签署了一套针对生成式 AI 的自愿行动准则。这份框架由非营利组织 Partnership on AI（PAI）主导，在征求了 50 多家机构的意见后出炉。

首批签约名单还包括加拿大广播公司 CBC/Radio-Canada、人权机构 Witness，以及 Synthesia、D-ID、Respeecher 这几家主打合成媒体的初创公司。

给 AI 内容贴上防伪标签

这套准则的核心要求只有两个字：透明。

它不仅要求做底层模型的 OpenAI 交代清楚技术能做什么、不能做什么，也要求 TikTok 和 BBC 这类分发平台必须明明白白告诉用户：你现在看到或互动的内容，是 AI 生成的。

落实到具体操作上，签约公司承诺探索各种告知手段，比如在视频和图片里打上水印、附带明确的免责声明，或者在模型的训练数据和元数据中留下可追溯的标记。

PAI 媒体完整性负责人 Claire Leibowicz 表示，他们的目标是确保合成媒体不会被用来剥夺权利或造成伤害，而是用来支持创作与知识分享。

参与起草指南的生成式 AI 专家 Henry Ajder 也直言，眼下的生成式 AI 就像一片「狂野西部」，这套指南至少能给准备接入这项业务的公司提个醒。

「全凭自愿」治不了坏人

但这套君子协定一公布，就引来了不少专家的泼冷水。

加州大学伯克利分校研究深度伪造的教授 Hany Farid 直截了当地指出，自愿性质的指南和原则几乎从来没起过作用。

他的担忧很现实：就算 OpenAI 愿意给 ChatGPT 和 DALL-E 加上安全护栏，那些不在联盟里的玩家怎么办？比如开源了 Stable Diffusion 的 Stability.AI，就很难管住别人用它去生成不当图像和换脸假图。

Farid 认为真正有效的做法必须动真格：苹果、谷歌、微软和亚马逊等拥有应用商店和云基础设施的巨头，应该直接封杀那些用于制作非自愿色情合成图的工具，同时全网强制推行 AI 水印，而不是让企业凭自觉选配。

英特尔高级研究科学家 Ilke Demir 和数字权利组织 Access Now 的 Daniel Leufer 则指出了另一大盲区：这份准则防范了诈骗、骚扰和虚假信息，却对模型训练本身的漏洞只字未提。

训练数据集里有没有投毒？模型是不是总偏向于生成白人？这些潜在偏见同样是伤害。Farid 甚至提出了一个更尖锐的问题：既然大家都承认这项技术会带来严重危害，那为什么没人先停下来问一句「我们一开始到底该不该做它」？

为什么重要

对普通用户来说，这份准则短期内最直接的改变，是你在刷短视频、用社交软件或看新闻时，可能会更频繁地看到「AI 生成」的提示标签。这能帮你少踩一点虚假信息的坑，但在开源工具泛滥的当下，你依然不能把屏幕上的画面完全当真。

对行业而言，大厂抢在监管前抱团立规矩，明显是在给自己做防御性公关。欧盟正在推进的《人工智能法案》（AI Act）已经盯上了深度伪造和生成式 AI 的透明度要求，企业先拿出自律姿态，无非是想在更严苛的立法落地前争取主动权。

我们认为，这份准则走得聪明的地方在于，它把模型商、工具链和分发平台拉到了同一张桌子上，至少确立了「AI 内容必须标识」的行业共识。

但它的隐患也摆在明面上：没有惩罚机制的倡议，在商业竞争和流量诱惑面前往往不堪一击。如果违规没有任何实质代价，光靠 10 家「模范生」自我约束，根本拦不住狂野生态里的灰产与恶意滥用。