跳到正文
IFAI

行业动态

应对欧盟 AI 法案:OpenAI 公布安全合规方案,水印拓展至音频

首次发布 传播指数 37

OpenAI 宣布支持欧盟通用 AI 与生成内容透明度两项实践准则。除了已有的红队测试与系统卡,OpenAI 正将 C2PA 和 SynthID 水印技术从图像扩展到音频,并推进 5 月启动的欧洲网络行动计划。这意味着前沿大模型正在加速适配欧洲监管要求。

应对欧盟 AI 法案:OpenAI 公布安全合规方案,水印拓展至音频
图:openai.com

欧洲给人工智能套上的紧箍咒,终于进入动真格的执行阶段了。

面对步步紧逼的《欧盟人工智能法案》(EU AI Act),OpenAI 在 7 月 31 日主动发文交底,公布了自己为了合规拿出的全套安全与透明度方案。说白了,就是告诉布鲁塞尔的监管者:别罚我,你们要的规矩我都照办了。

这次 OpenAI 明确背书了两项核心的欧盟行为准则,分别是通用人工智能(GPAI)行为准则,以及 AI 生成内容透明度行为准则。

亮出底牌与给音频打水印

为了证明自己够透明,OpenAI 把这几年的内部流程理了一遍。除了发布模型前做测试、发系统卡片(System Cards)、找红队网络找漏洞,还有公开的模型规范(Model Spec)。

而在制度层面,他们拿出了 2023 年设立并在 2025 年刚更新过的「准备度框架」(Preparedness Framework),以及用来对齐法律要求的「前沿治理框架」。

对于生成内容的防伪,OpenAI 这次有个很具体的新动作。他们原本对图片使用的双重溯源机制,现在正扩展到音频输出上。

这套机制包括记录上下文元数据的 C2PA 内容凭证,以及在元数据丢失后用来兜底的 SynthID 水印。OpenAI 还承诺,未来标准和工具成熟时,会继续把溯源覆盖到文本等其他模态。

除了防伪,他们还在网络安全上拉拢欧洲盟友。自 5 月初启动「欧盟网络行动计划」以来,OpenAI 就通过网络可信访问项目(TAC),把高级网络模型开放给欧盟及各成员国的网络机构和关键基础设施运营方。

为什么重要

对开发者和企业客户来说,OpenAI 这份清单最实用的地方,是提供了合规的挡箭牌。在欧洲做 AI 应用,最怕哪天突然踩到法案红线被重罚,现在 OpenAI 承诺提供模型文档、系统卡片和溯源验证工具,帮下游开发者分担合规压力,大家不用从头自己去摸索怎么应付监管。

但对普通用户而言,短期内可能感知有限。SynthID 和 C2PA 扩展到音频确实能减少深度伪造的忽悠,可现实中平台一旦压缩或者转码,元数据还是容易丢,完全防住黑产并不现实,这更像是一种防君子不防小人的基础防线。

我们认为,OpenAI 这一步走得相当精明。它没有像以前那样直接硬刚监管,而是主动参与规则制定,甚至积极给欧洲官方机构送网络安全模型。表面上是配合履约,实际上是把自己的安全标准往欧盟法案里嵌。

如果 OpenAI 的这套内部框架最终变成全行业的默认合规模板,后来者和开源模型的合规成本就会被拉得极高。看起来是低头认罚,骨子里其实是在用合规门槛筑起自己的竞争护城河。

来源 (1)

  1. [1]
    openai.com(在新标签页打开)原文openai.com

每日 AI 内容精选