跳到正文
IFAI

行业动态

YouTube 扩展 AI 肖像检测试点:官员与记者也能查深伪了

首次发布 传播指数 62

YouTube 宣布将 AI 肖像检测工具试点扩大至政府官员、记者和政治候选人。该工具类似针对人脸的 Content ID,能扫描匹配换脸深伪内容并支持申请下架。不过讽刺等公共利益表达仍受保护,认证数据也不会用来训练模型。

YouTube 扩展 AI 肖像检测试点:官员与记者也能查深伪了
图:blog.youtube

如果有人用 AI 生成了你的脸,在网上对着几百万人发表暴论,你大概只能到处填表投诉,祈祷平台早点受理。

现在 YouTube 打算把这道防线往前推一步。3 月 10 日,YouTube 宣布将旗下的 AI 肖像检测工具扩展给一个试点群体,主要包括政府官员、记者和政治候选人。这个工具去年已经面向 YouTube 合作伙伴计划里的约 400 万创作者开放,现在开始正式向政界和新闻界延伸。

像抓侵权一样抓换脸

你可以把这项功能理解成针对人脸的 Content ID。以前 Content ID 在后台自动比对音频和画面找盗版,现在这个工具则是在视频库里扫描 AI 模拟的面孔。

只要系统识别出匹配的深度伪造视频,入选者就会收到提醒,可以亲自查看,并根据 YouTube 的隐私指引申请下架。

门槛也是有的。为了防止有人冒领身份乱发下架通知,申请加入的人必须上传自拍视频和政府颁发的身份证件进行实名验证。YouTube 强调,这些生物识别和身份数据只用于审核与肖像检测功能,绝对不会用来训练 Google 的生成式 AI 模型,申请人退出时也可以要求删除。

不过,搜出来不等于系统会自动删视频。YouTube 政府事务与公共政策副总裁 Leslie Miller 明确表示,平台依然会保护恶搞、讽刺和合法的政治批评。如果某个视频虽然用了领导人的 AI 换脸,但属于明显的政治讽刺,YouTube 大概率会把它留下来。

有趣的是,创作者产品副总裁 Amjad Hanif 透露,之前 400 万创作者虽然能收到大量匹配提醒,但真正申请删除的比例极低。因为大多数创作者觉得那些二创视频挺温和,甚至还能帮自己的频道引流。但放到政治人物和媒体人身上,风向就完全变了。

YouTube 还画了更大的饼:未来不仅打算支持在视频正式发布前就进行拦截,甚至在考虑引入类似 Content ID 的变现机制,让被换脸的人直接从 AI 视频的广告费里分成。后续这项检测还会扩展到声音识别和流行虚拟角色上。但普通人别高兴太早,官方直言,把全世界所有人都纳入主动检测范围大概不会发生,大众遇到侵权依然得走常规投诉渠道。

为什么重要

我们认为,YouTube 这一步最聪明的地方,在于把版权管理那套极其成熟的工业化逻辑,直接搬到了肖像权和深度伪造治理上。

对政治人物和记者来说,这无疑多了一个趁手的预警雷达,至少不用等假视频传遍全网才后知后觉。但普通人现在显然蹭不上这层保护,这种特权划分在未来难免会引发关于公平性的争议。

更值得关注的是生态层面的走向。YouTube 显然不打算一棍子打死 AI 换脸,他们甚至已经在琢磨给 AI 深度伪造开通创作者分成。如果被换脸的主角不仅能删视频,还能选择把假视频收编用来收版权费,整个 AI 内容的生产逻辑和法律边界都会被彻底改写。

不过这里的隐患同样显而易见。YouTube 把裁决权牢牢握在自己手里,自己判断什么是恶意造谣,什么是受保护的政治讽刺。在选情焦灼的节点上,删与不删都极易招致偏袒的指责。技术可以精准识别人脸,但辨别讽刺与阴谋论的边界,从来就不是算法能搞定的事。

来源 (3)

  1. [1]
    blog.youtube(在新标签页打开)原文blog.youtube
  2. [2]
    techcrunch.com(在新标签页打开)报道techcrunch.com
  3. [3]
    theverge.com(在新标签页打开)报道theverge.com

每日 AI 内容精选