跳到正文
IFAI

行业动态

OpenAI 与微软支持加州 AI 法案:社交平台必须明确标注 AI 内容

首次发布 传播指数 50

OpenAI、Adobe 与微软表态支持加州 AB 3211 法案。该法案不仅要求在 AI 生成的音视频和图片元数据中嵌入水印,还强制 Instagram、X 等大型平台必须用普通人看得懂的方式明确标注 AI 内容。此前曾以「负担过重」反对的科技巨头,在法案修正后集体倒戈支持。

你在刷社交媒体时看到一张逼真的假照片,几乎不可能专门把它下载下来,再去翻看底层的代码文件。

AI 生成的内容越来越多,如果只在文件内部默默写上一串标记,对绝大多数人来说形同虚设。加州立法者正打算彻底改变这种现状,而这一次,站在他们身后的居然是几家 AI 巨头。

据 TechCrunch 查阅到的信件,OpenAI、Adobe 与微软正式致信加州立法机构,表态支持加州 AB 3211 法案。这项旨在规范 AI 合成内容的法案,正准备在 8 月迎来关键的最终表决。

藏在底层的标记,终于要摆到台面上

AB 3211 法案的核心要求有两个层次。

第一步,要求科技公司在 AI 生成的照片、视频和音频剪辑的元数据中嵌入水印。其实很多 AI 公司已经在这么做了,但问题在于,普通网民根本不会去读取元数据。

于是法案给出了更严格的第二步:直接要求 Instagram、X 等大型在线平台挑起担子,必须以普通观众能够看懂的方式,明确标注出哪些是 AI 生成的内容。

这相当于把鉴别真伪的责任,从技术极客的暗盒里拿了出来,直接推到了社交媒体的前台。

从「负担过重」到反手点赞

有意思的是,这几家巨头的态度来了一个 180 度大转弯。

OpenAI、Adobe 和微软本身都是内容来源和真实性联盟(C2PA)的成员,该联盟牵头制定了目前行业广泛使用的 C2PA 元数据标准。

但在今年 4 月,代表 Adobe、微软及全美最大一批软件制造商的行业贸易组织,还曾写信给加利福尼亚州的立法者,强烈反对 AB 3211。他们当时毫不客气地指责该法案「无法执行」,并且会给企业带来「过重的负担」。

随后的法案修正案显然打消了他们的顾虑,最终让这些手握行业标准的科技巨头改口支持。

为什么重要

对普通用户来说,这是个好消息。你以后刷手机不用再像侦探一样去数手指数,平台有法律义务直接告诉你这图是不是 AI 画的,辨别门槛会大幅降低。

对于这几家巨头来说,我们认为这一步走得非常聪明。

它们早早通过 C2PA 建立了技术标准,支持加州立法,相当于顺水推舟把自己的私家标准变成了法定义务。更妙的是,这一举动不仅赚足了合规与安全的好名声,还将最大的审核和展示成本转嫁给了 Instagram、X 这类下游分发平台。

不过隐患并没有彻底消失。元数据在互联网传播中最容易被剥离,一张图片经过截图或二次压缩,底层的数字标签很可能直接失效。法案能逼平台贴上标签,但能不能真正防住别有用心的深度伪造,依然要画个问号。

来源 (2)

  1. [1]
    reuters.com(在新标签页打开)原文reuters.com
  2. [2]
    techcrunch.com(在新标签页打开)报道techcrunch.com

话题追踪AI 水印与溯源监管

这个话题的历次新闻,最新的在上面。

  1. OpenAI 与微软支持加州 AI 法案:社交平台必须明确标注 AI 内容本条
  2. 美参议员提出 COPIED 法案:拟将擅自删除数字水印定为违法

每日 AI 内容精选