跳到正文
IFAI

產業動態

Sora 偷造「老白」假影片被抓包:OpenAI 道歉並加固肖像防護欄

首次發布 傳播指數 41

OpenAI、演員布萊恩·科蘭斯頓及演員工會發表聯合宣告。此前 Sora 2 未經授權生成了科蘭斯頓的偽造影片,OpenAI 對此表示遺憾,並承諾加固肖像與聲音準入防護欄。工會藉此呼籲儘快通過立法,遏制 AI 隨意複製名人的現象。

Sora 偷造「老白」假影片被抓包:OpenAI 道歉並加固肖像防護欄
圖:theverge.com

你可能還沒在 OpenAI 的 Sora 2 上排到隊,但《絕命毒師》的「老白」Bryan Cranston 已經在裡面跟邁克爾·傑克遜自拍上了。

問題是,Cranston 本人從來沒同意過讓 AI 拿自己的臉去拍影片。

好在事情沒有鬧成法庭見。近日,Bryan Cranston、美國演員工會 SAG-AFTRA、幾家好萊塢頂級經紀公司與 OpenAI 釋出了一份聯合宣告。OpenAI 承認這些影片屬於「無意生成」,並表示已經收緊了肖像和聲音的授權機制。

沒點頭就被拉去合影

上個月 Sora 2 剛露面的時候,好萊塢就炸了鍋。演員、經紀人、製片廠和工會都在盯著這款影片工具,看它會不會肆無忌憚地克隆真人。

Cranston 這次成了典型案例。明明自己從未簽署過任何 opt-in 許可,Sora 上卻冒出了關於他的逼真影片,其中一條甚至是他和流行天王邁克爾·傑克遜勾肩搭背自拍。

這篇聯合宣告除了主角 Cranston 和工會,後面還站著聯合精英經紀公司(UTA)、經紀人協會(ATA)以及創新藝人經紀公司(CAA)。這幾家機構之前可沒少公開批評 OpenAI 對創作者保護不足。

OpenAI 在聲明裡重申了立場,表示所有藝術家、表演者和普通個人,都有權決定自己是否以及如何被 AI 模擬。公司還承諾會迅速處理違規生成影片的申訴。

Cranston 本人對這個結果表示滿意,還專門感謝了 OpenAI 願意改善安全護欄。不過,The Verge 在報道中提到,OpenAI 並沒有交代具體在產品底層改了什麼,也沒趕在發稿前回應該媒體的置評請求。

從納粹海綿寶寶到立法施壓

其實 Sora 2 在內容安全上翻車已經不是第一次了。

剛上線那會兒,OpenAI 對版權方採用的是被動的 opt-out 模式,也就是預設你能被生成,除非你自己找上門要求下架。直到網路上開始瘋傳「納粹海綿寶寶」等惡搞影片、引發全網聲討後,OpenAI 才緊急調頭,承諾給版權方提供類似肖像 opt-in 的精細控制權。

這次雖然靠公關和補丁暫時平息了老白的怒火,但好萊塢顯然不想把身家性命全押在科技公司的自覺上。

SAG-AFTRA 主席 Sean Astin 在聲明裡直接把話挑明瞭。他認為,單靠平臺的自律根本不夠,表演者必須有法律撐腰,才能抵禦複製技術的大規模盜用。工會目前正在全力推動美國國會通過《NO FAKES 法案》。

為什麼重要

如果技術公司每次都是「先汙染後治理」,那最倒霉的永遠是創作者和普通人。

對好萊塢從業者和普通人來說,這件事情最大的意義在於劃下了一條紅線:肖像和聲音必須嚴格遵循「不點頭就不能用」的 opt-in 原則,而不是讓受害者在網上看到自己的仿冒影片後,再到處填表申訴。

我們認為,OpenAI 這一步走得相當現實。面對 CAA、UTA 這類掌控頂級內容源的經紀巨頭和剛結束罷工不久的演員工會,硬碰硬只會引來無窮無盡的侵權訴訟,甚至加速更嚴苛的聯邦監管立法。低頭認錯、拉著大牌演員一起發聯合宣告,是目前最聰明的滅火方式。

但這裡的隱患依然顯而易見。OpenAI 對具體的過濾機制避而不談,看起來他們目前更多還是依賴事後補救和關鍵詞黑名單,而不是從底層模型上徹底解決了未授權復刻的問題。

當生成影片逼真到肉眼難辨的時候,光靠平臺內部的投訴通道顯然不夠用。Sean Astin 提到的立法才是行業真正的分水嶺,如果《NO FAKES 法案》落地,所有文生影片工具都必須重構自己的訓練和生成稽核管線,隨意生成名人的時代就真的要結束了。

來源 (1)

  1. [1]
    theverge.com(在新分頁開啟)原文theverge.com

每日 AI 內容精選