紐時曝 OpenAI 轉錄超 100 萬小時 YouTube 影片:用來訓練 GPT-4
據《紐約時報》報道,OpenAI 為緩解訓練資料匱乏,曾利用 Whisper 轉錄超過 100 萬小時的 YouTube 影片用於訓練 GPT-4。內部明知存在法律爭議,仍認定為合理使用。Google 與 Meta 也被曝面臨資料耗盡危機,正處於版權灰色地帶。

網際網路上的優質人類文字,快被大模型吃光了。
根據《紐約時報》披露的內幕,OpenAI 早在 2021 年就耗盡了現成的高質量文本儲備。為了給 GPT-4 餵飽資料,OpenAI 內部專門開發了 Whisper 語音轉錄模型,悄悄扒下超過 100 萬小時的 YouTube 影片並轉成文字。
據報道,OpenAI 內部其實很清楚這在法律上處於模糊地帶,但他們堅信這屬於合理使用。甚至 OpenAI 總裁 Greg Brockman 都親自下場,參與了挑影片和收集素材的過程。
大家都缺糧,連 Google 和 Meta 也坐不住了
OpenAI 並不是唯一一家在版權邊緣試探的公司。隨著大模型胃口越來越大,矽谷巨頭們的資料荒已經成了普遍危機。
在轉錄 YouTube 影片之前,OpenAI 幾乎掃蕩了能找到的一切資源。從 GitHub 上的開原始碼、國際象棋棋譜,到作業輔導網站 Quizlet 裡的學生作業,全被塞進了訓練集。之後實在沒東西可喂,才把目光轉向了播客、有聲書和 YouTube。
有意思的是 Google 的態度。Google 發言人對外表示,不管是 robots.txt 協議還是平臺服務條款,都嚴厲禁止未經授權抓取 YouTube 內容,並強調如果抓到實錘就會採取技術和法律手段。YouTube 執行長 Neal Mohan 此前針對影片模型 Sora 也表達過類似警告。
但《紐約時報》在調查中揭露,Google 自己其實也在抓取 YouTube 的轉錄文本訓練模型。Google 發言人對此的解釋是,他們使用的部分 YouTube 內容符合與創作者之間的協議約定。
不僅如此,報道還提到 Google 法務部門曾要求隱私團隊修改服務條款,擴大對 Google Docs 等辦公軟體中使用者資料的使用許可權。為了不引起太大反彈,這項修改專門選在 7 月 1 日美國獨立日小長假前夕悄悄上線。
Meta 這邊同樣焦慮。洩露的內部錄音顯示,Meta 的 AI 團隊為了追趕 OpenAI,在開會時直接討論過未經授權使用版權作品。他們幾乎讀光了網上能找到的所有英文書籍、散文、詩歌和新聞,甚至認真考慮過要不要乾脆買下一家大型出版商來補齊短板。
為什麼重要
大模型的技術競賽,現在已經演變成一場搶奪人類存量資料的零和博弈。《華爾街日報》此前的報道給出了一個相當殘酷的預判:到 2028 年,AI 公司對高質量文本的消耗速度,就將徹底超過人類新內容的生產速度。
對於普通使用者和創作者來說,這意味著你的數字資產幾乎不可避免地被捲入其中。無論你在 YouTube 上發影片,還是在雲端文件裡寫草稿,只要服務條款稍作改動,你的個人產出就可能變成訓練下一個頂尖模型的養料。雖然巨頭們都堅稱自己的行為屬於合理使用或合規操作,但隨著過去一年多各類侵權訴訟接踵而至,普通創作者的知情權和收益權顯然被甩在了身後。
我們認為,AI 巨頭目前依靠打擦邊球來維持模型迭代的做法,天花板已經清晰可見。不管是 OpenAI 總裁親自下場扒影片,還是 Google 挑著假日前夕改條款,都透露出一種難以掩飾的緊迫與狼狽。這種做法不僅在法律上埋下了巨大的合規地雷,也從側面說明現有架構對資料的依賴嚴重到了病態的地步。
行業目前寄希望於兩條新路,一種是用 AI 自己生成訓練資料的合成數據路線,另一種是像人類上學一樣分階段喂高質量內容的課程學習。但這兩條路目前在技術上都還沒被徹底跑通。如果無法擺脫對海量存量資料的蠻力依賴,大模型的軍備競賽很快就會撞上物理意義上的算力與資料雙重死牆。
來源 (1)
- theverge.com(在新分頁開啟)原文theverge.com