跳到正文
IFAI

AIGC

OpenAI 限制 Sora:应家属要求,叫停马丁·路德·金 AI 视频生成

首次发布 传播指数 39

OpenAI 宣布在 Sora 中暂停生成已故民权领袖马丁·路德·金的肖像视频。此前有用户用该平台制作了大量不敬内容,引发家属抗议。OpenAI 表示,遗产所有者和合法代表均可申请禁止在 Sora 客串中出现其肖像,AI 名人肖像权治理迎来新规则。

当你在社交网络上看到马丁·路德·金在屏幕里学猴子叫,甚至和马尔科姆·X 扭打在一起,换谁是家属都得崩溃。

OpenAI 终于在这件事上踩了刹车。周四,OpenAI 官方宣布,应马丁·路德·金遗产管理方的要求,正式暂停在 AI 视频应用 Sora 中生成这位已故民权领袖的肖像视频。

OpenAI 在声明里表示,描绘历史人物固然涉及言论自由,但公众人物及其家属最终应该对自己肖像的使用拥有控制权。授权代表或遗产继承人现在可以主动申请,禁止 Sora 生成他们的形象。

失控的恶搞与疲惫的家属

这距离 OpenAI 把 Sora 当作视频社交平台推向公众,才过去短短几个星期。

在最初的设想中,Sora 允许用户生成逼真的历史人物、朋友,或者授权复刻自己形象的人。然而现实很快滑向了恶俗恶搞。

据《华盛顿邮报》报道,Sora 上迅速充斥着大量粗制滥造的内容。除了让民权领袖学动物叫,还有画家鲍勃·罗斯、歌手惠特妮·休斯顿以及前总统肯尼迪的各种低俗段子。

最先承受不住的是家属。马丁·路德·金的女儿伯尼斯·金上周在 Instagram 上公开呼吁,恳求网友别再给她私信父亲的 AI 视频。在此之前,已故演员罗宾·威廉姆斯的女儿也发出过完全一样的抗议。

除了真人肖像,版权问题也成了重灾区。如今打开 Sora,海绵宝宝、《南方公园》和宝可梦的二创漫天飞。OpenAI 已经在 10 月早些时候表态,正计划给版权方提供更细粒度的控制工具,显然是被好莱坞的愤怒逼出来的妥协。

放开文字,收紧视频

有意思的是,OpenAI 内部对待不同产品的态度正在出现巨大的反差。

就在收紧 Sora 人脸权限的同一周,OpenAI 却宣布打算在未来几个月内,允许成年用户在 ChatGPT 里进行成人尺度的对话。一边在文字端放宽边界,另一边在视频社交端疯狂打补丁。

这种手忙脚乱,其实在上线第一天就有迹可循。OpenAI CEO 山姆·奥特曼坦言,Sora 上线当天团队心里全是惴惴不安。甚至有内部研究员公开讨论,把这样一个纯娱乐的 AI 社交平台推向市场,到底和公司的非营利初衷有什么关系。

ChatGPT 负责人尼克·特利曾表示,让世界认识新技术的最好办法就是把它放出去。OpenAI 确实把 Sora 放出去了,但现实的耳光也来得格外迅速。

为什么重要

对普通创作者来说,靠死者肖像和经典动漫蹭流量的红利期正在极速缩水。如果你指望用 Sora 制作历史名人短视频,必须做好随时被下架或封禁提示词的准备。在名人和版权问题彻底解决前,真正能稳定商业化的可能只有完全原创的数字人。

对行业而言,OpenAI 这次被动建立的「遗产方申诉机制」,很可能会成为所有生成式视频工具的标配。但我们认为,这种「有人抗议就封一个」的打地鼠模式非常笨拙。今天封了马丁·路德·金,明天还有无数没有强大律师团或知名后代的历史人物,难道任由用户任意扭曲?

更值得推敲的是 Sora 的社交平台路线。与只做工具的 Runway 或可灵不同,OpenAI 试图把 Sora 做成一个消费级的视频社区。但社交平台天然靠博眼球和争议传播,逼真的视频生成能力一旦遇上流量机制,恶意和冒犯几乎是必然的副产物。OpenAI 看起来低估了人性的恶意,也高估了自己给新技术擦屁股的速度。

来源 (1)

  1. [1]
    techcrunch.com(在新标签页打开)原文techcrunch.com

每日 AI 内容精选