跳到正文
IFAI

AIGC

OpenAI 限制 Sora:應家屬要求,叫停馬丁·路德·金 AI 影片生成

首次發布 傳播指數 39

OpenAI 宣佈在 Sora 中暫停生成已故民權領袖馬丁·路德·金的肖像影片。此前有使用者用該平臺製作了大量不敬內容,引發家屬抗議。OpenAI 表示,遺產所有者和合法代表均可申請禁止在 Sora 客串中出現其肖像,AI 名人肖像權治理迎來新規則。

當你在社交網路上看到馬丁·路德·金在螢幕裡學猴子叫,甚至和馬爾科姆·X 扭打在一起,換誰是家屬都得崩潰。

OpenAI 終於在這件事上踩了剎車。週四,OpenAI 官方宣佈,應馬丁·路德·金遺產管理方的要求,正式暫停在 AI 影片應用 Sora 中生成這位已故民權領袖的肖像影片。

OpenAI 在聲明裡表示,描繪歷史人物固然涉及言論自由,但公眾人物及其家屬最終應該對自己肖像的使用擁有控制權。授權代表或遺產繼承人現在可以主動申請,禁止 Sora 生成他們的形象。

失控的惡搞與疲憊的家屬

這距離 OpenAI 把 Sora 當作影片社交平臺推向公眾,才過去短短幾個星期。

在最初的設想中,Sora 允許使用者生成逼真的歷史人物、朋友,或者授權復刻自己形象的人。然而現實很快滑向了惡俗惡搞。

據《華盛頓郵報》報道,Sora 上迅速充斥著大量粗製濫造的內容。除了讓民權領袖學動物叫,還有畫家鮑勃·羅斯、歌手惠特妮·休斯頓以及前總統肯尼迪的各種低俗段子。

最先承受不住的是家屬。馬丁·路德·金的女兒伯尼斯·金上週在 Instagram 上公開呼籲,懇求網友別再給她私信父親的 AI 影片。在此之前,已故演員羅賓·威廉姆斯的女兒也發出過完全一樣的抗議。

除了真人肖像,版權問題也成了重災區。如今開啟 Sora,海綿寶寶、《南方公園》和寶可夢的二創漫天飛。OpenAI 已經在 10 月早些時候表態,正計劃給版權方提供更細粒度的控制工具,顯然是被好萊塢的憤怒逼出來的妥協。

放開文字,收緊影片

有意思的是,OpenAI 內部對待不同產品的態度正在出現巨大的反差。

就在收緊 Sora 人臉許可權的同一周,OpenAI 卻宣佈打算在未來幾個月內,允許成年使用者在 ChatGPT 裡進行成人尺度的對話。一邊在文字端放寬邊界,另一邊在影片社交端瘋狂打補丁。

這種手忙腳亂,其實在上線第一天就有跡可循。OpenAI CEO 山姆·奧特曼坦言,Sora 上線當天團隊心裡全是惴惴不安。甚至有內部研究員公開討論,把這樣一個純娛樂的 AI 社交平臺推向市場,到底和公司的非營利初衷有什麼關係。

ChatGPT 負責人尼克·特利曾表示,讓世界認識新技術的最好辦法就是把它放出去。OpenAI 確實把 Sora 放出去了,但現實的耳光也來得格外迅速。

為什麼重要

對普通創作者來說,靠死者肖像和經典動漫蹭流量的紅利期正在極速縮水。如果你指望用 Sora 製作歷史名人短影片,必須做好隨時被下架或封禁提示詞的準備。在名人和版權問題徹底解決前,真正能穩定商業化的可能只有完全原創的數字人。

對行業而言,OpenAI 這次被動建立的「遺產方申訴機制」,很可能會成為所有生成式影片工具的標配。但我們認為,這種「有人抗議就封一個」的打地鼠模式非常笨拙。今天封了馬丁·路德·金,明天還有無數沒有強大律師團或知名後代的歷史人物,難道任由使用者任意扭曲?

更值得推敲的是 Sora 的社交平臺路線。與只做工具的 Runway 或可靈不同,OpenAI 試圖把 Sora 做成一個消費級的影片社群。但社交平臺天然靠博眼球和爭議傳播,逼真的影片生成能力一旦遇上流量機制,惡意和冒犯幾乎是必然的副產物。OpenAI 看起來低估了人性的惡意,也高估了自己給新技術擦屁股的速度。

來源 (1)

  1. [1]
    techcrunch.com(在新分頁開啟)原文techcrunch.com

每日 AI 內容精選