跳到正文
IFAI

行业动态

纽时曝 OpenAI 转录超 100 万小时 YouTube 视频:用来训练 GPT-4

首次发布 传播指数 45

据《纽约时报》报道,OpenAI 为缓解训练数据匮乏,曾利用 Whisper 转录超过 100 万小时的 YouTube 视频用于训练 GPT-4。内部明知存在法律争议,仍认定为合理使用。Google 与 Meta 也被曝面临数据耗尽危机,正处于版权灰色地带。

纽时曝 OpenAI 转录超 100 万小时 YouTube 视频:用来训练 GPT-4
图:theverge.com

互联网上的优质人类文字,快被大模型吃光了。

根据《纽约时报》披露的内幕,OpenAI 早在 2021 年就耗尽了现成的高质量文本储备。为了给 GPT-4 喂饱数据,OpenAI 内部专门开发了 Whisper 语音转录模型,悄悄扒下超过 100 万小时的 YouTube 视频并转成文字。

据报道,OpenAI 内部其实很清楚这在法律上处于模糊地带,但他们坚信这属于合理使用。甚至 OpenAI 总裁 Greg Brockman 都亲自下场,参与了挑视频和收集素材的过程。

大家都缺粮,连 Google 和 Meta 也坐不住了

OpenAI 并不是唯一一家在版权边缘试探的公司。随着大模型胃口越来越大,硅谷巨头们的数据荒已经成了普遍危机。

在转录 YouTube 视频之前,OpenAI 几乎扫荡了能找到的一切资源。从 GitHub 上的开源代码、国际象棋棋谱,到作业辅导网站 Quizlet 里的学生作业,全被塞进了训练集。之后实在没东西可喂,才把目光转向了播客、有声书和 YouTube。

有意思的是 Google 的态度。Google 发言人对外表示,不管是 robots.txt 协议还是平台服务条款,都严厉禁止未经授权抓取 YouTube 内容,并强调如果抓到实锤就会采取技术和法律手段。YouTube 首席执行官 Neal Mohan 此前针对视频模型 Sora 也表达过类似警告。

但《纽约时报》在调查中揭露,Google 自己其实也在抓取 YouTube 的转录文本训练模型。Google 发言人对此的解释是,他们使用的部分 YouTube 内容符合与创作者之间的协议约定。

不仅如此,报道还提到 Google 法务部门曾要求隐私团队修改服务条款,扩大对 Google Docs 等办公软件中用户数据的使用权限。为了不引起太大反弹,这项修改专门选在 7 月 1 日美国独立日小长假前夕悄悄上线。

Meta 这边同样焦虑。泄露的内部录音显示,Meta 的 AI 团队为了追赶 OpenAI,在开会时直接讨论过未经授权使用版权作品。他们几乎读光了网上能找到的所有英文书籍、散文、诗歌和新闻,甚至认真考虑过要不要干脆买下一家大型出版商来补齐短板。

为什么重要

大模型的技术竞赛,现在已经演变成一场抢夺人类存量数据的零和博弈。《华尔街日报》此前的报道给出了一个相当残酷的预判:到 2028 年,AI 公司对高质量文本的消耗速度,就将彻底超过人类新内容的生产速度。

对于普通用户和创作者来说,这意味着你的数字资产几乎不可避免地被卷入其中。无论你在 YouTube 上发视频,还是在云端文档里写草稿,只要服务条款稍作改动,你的个人产出就可能变成训练下一个顶尖模型的养料。虽然巨头们都坚称自己的行为属于合理使用或合规操作,但随着过去一年多各类侵权诉讼接踵而至,普通创作者的知情权和收益权显然被甩在了身后。

我们认为,AI 巨头目前依靠打擦边球来维持模型迭代的做法,天花板已经清晰可见。不管是 OpenAI 总裁亲自下场扒视频,还是 Google 挑着假日前夕改条款,都透露出一种难以掩饰的紧迫与狼狈。这种做法不仅在法律上埋下了巨大的合规地雷,也从侧面说明现有架构对数据的依赖严重到了病态的地步。

行业目前寄希望于两条新路,一种是用 AI 自己生成训练数据的合成数据路线,另一种是像人类上学一样分阶段喂高质量内容的课程学习。但这两条路目前在技术上都还没被彻底跑通。如果无法摆脱对海量存量数据的蛮力依赖,大模型的军备竞赛很快就会撞上物理意义上的算力与数据双重死墙。

来源 (1)

  1. [1]
    theverge.com(在新标签页打开)原文theverge.com

每日 AI 内容精选