跳到正文
IFAI

行业动态

Sora 偷造「老白」假视频被抓包:OpenAI 道歉并加固肖像防护栏

首次发布 传播指数 41

OpenAI、演员布莱恩·科兰斯顿及演员工会发表联合声明。此前 Sora 2 未经授权生成了科兰斯顿的伪造视频,OpenAI 对此表示遗憾,并承诺加固肖像与声音准入防护栏。工会借此呼吁尽快通过立法,遏制 AI 随意复制名人的现象。

Sora 偷造「老白」假视频被抓包:OpenAI 道歉并加固肖像防护栏
图:theverge.com

你可能还没在 OpenAI 的 Sora 2 上排到队,但《绝命毒师》的「老白」Bryan Cranston 已经在里面跟迈克尔·杰克逊自拍上了。

问题是,Cranston 本人从来没同意过让 AI 拿自己的脸去拍视频。

好在事情没有闹成法庭见。近日,Bryan Cranston、美国演员工会 SAG-AFTRA、几家好莱坞顶级经纪公司与 OpenAI 发布了一份联合声明。OpenAI 承认这些视频属于「无意生成」,并表示已经收紧了肖像和声音的授权机制。

没点头就被拉去合影

上个月 Sora 2 刚露面的时候,好莱坞就炸了锅。演员、经纪人、制片厂和工会都在盯着这款视频工具,看它会不会肆无忌惮地克隆真人。

Cranston 这次成了典型案例。明明自己从未签署过任何 opt-in 许可,Sora 上却冒出了关于他的逼真视频,其中一条甚至是他和流行天王迈克尔·杰克逊勾肩搭背自拍。

这篇联合声明除了主角 Cranston 和工会,后面还站着联合精英经纪公司(UTA)、经纪人协会(ATA)以及创新艺人经纪公司(CAA)。这几家机构之前可没少公开批评 OpenAI 对创作者保护不足。

OpenAI 在声明里重申了立场,表示所有艺术家、表演者和普通个人,都有权决定自己是否以及如何被 AI 模拟。公司还承诺会迅速处理违规生成视频的申诉。

Cranston 本人对这个结果表示满意,还专门感谢了 OpenAI 愿意改善安全护栏。不过,The Verge 在报道中提到,OpenAI 并没有交代具体在产品底层改了什么,也没赶在发稿前回应该媒体的置评请求。

从纳粹海绵宝宝到立法施压

其实 Sora 2 在内容安全上翻车已经不是第一次了。

刚上线那会儿,OpenAI 对版权方采用的是被动的 opt-out 模式,也就是默认你能被生成,除非你自己找上门要求下架。直到网络上开始疯传「纳粹海绵宝宝」等恶搞视频、引发全网声讨后,OpenAI 才紧急调头,承诺给版权方提供类似肖像 opt-in 的精细控制权。

这次虽然靠公关和补丁暂时平息了老白的怒火,但好莱坞显然不想把身家性命全押在科技公司的自觉上。

SAG-AFTRA 主席 Sean Astin 在声明里直接把话挑明了。他认为,单靠平台的自律根本不够,表演者必须有法律撑腰,才能抵御复制技术的大规模盗用。工会目前正在全力推动美国国会通过《NO FAKES 法案》。

为什么重要

如果技术公司每次都是「先污染后治理」,那最倒霉的永远是创作者和普通人。

对好莱坞从业者和普通人来说,这件事情最大的意义在于划下了一条红线:肖像和声音必须严格遵循「不点头就不能用」的 opt-in 原则,而不是让受害者在网上看到自己的仿冒视频后,再到处填表申诉。

我们认为,OpenAI 这一步走得相当现实。面对 CAA、UTA 这类掌控顶级内容源的经纪巨头和刚结束罢工不久的演员工会,硬碰硬只会引来无穷无尽的侵权诉讼,甚至加速更严苛的联邦监管立法。低头认错、拉着大牌演员一起发联合声明,是目前最聪明的灭火方式。

但这里的隐患依然显而易见。OpenAI 对具体的过滤机制避而不谈,看起来他们目前更多还是依赖事后补救和关键词黑名单,而不是从底层模型上彻底解决了未授权复刻的问题。

当生成视频逼真到肉眼难辨的时候,光靠平台内部的投诉通道显然不够用。Sean Astin 提到的立法才是行业真正的分水岭,如果《NO FAKES 法案》落地,所有文生视频工具都必须重构自己的训练和生成审核管线,随意生成名人的时代就真的要结束了。

来源 (1)

  1. [1]
    theverge.com(在新标签页打开)原文theverge.com

每日 AI 内容精选