跳到正文
IFAI

大模型

OpenAI 調整大模型研發策略:代號 Orion 提升放緩,轉向合成數據與後訓練

首次發布 傳播指數 51

據報道,OpenAI 代號為 Orion 的下一代旗艦模型效能提升幅度放緩,在程式設計等領域未能顯著拉開差距。為此 OpenAI 正在調整策略,轉向利用合成數據訓練並加大後訓練投入。公司已確認,今年不會發布 Orion。

大家可能還在等著 OpenAI 掏出下一個把全場看呆的巨無霸模型,但現實可能要潑一盆冷水了。

據 The Information 報道,測試過 OpenAI 下一代旗艦模型 Orion 的員工透露,新模型的效能確實比現有產品好,但提升幅度遠沒有當年 GPT-3 跨越到 GPT-4 時那麼驚豔。報道甚至提到,在程式設計等特定任務上,Orion 甚至可能無法拉開與現有模型的差距。

堆算力的大模型,也撞牆了

其實不止是 OpenAI,整個大模型領域似乎都開始面對這種邊際效應遞減的尷尬。

當年從 GPT-3 到 GPT-3.5,再到 GPT-4 的驚天一躍,讓人們習慣了每次版本迭代都有翻天覆地的變化。但如今每往前走一代,技術突破的跨度和威力似乎都在縮水。

這也是為什麼 OpenAI 內部成立了專門的團隊,專門琢磨後續該怎麼改動訓練方式。單純靠抓取網際網路上的公開網頁資料,優質資料資源顯然已經快見底了。

現在的應對方案之一,是轉向合成數據。也就是讓現有的 AI 模型去生成資料,再拿來餵給 Orion 訓練。同時,團隊也把更多精力放到了之前相對缺席的後訓練環節上,試圖在模型練完之後繼續精細雕琢。

進展不及預期,釋出節奏自然也踩了剎車。此前外界普遍猜測新一代模型會在 12 月亮相,但 OpenAI 隨後明確對 TechCrunch 表示,今年並沒有釋出代號 Orion 模型的計劃。再加上 11 月 8 日 ChatGPT 剛剛經歷了一場波及大批使用者的宕機事故,且有跡象顯示 ChatGPT 的使用者數量正在緩慢下滑,團隊顯然需要放慢腳步重新審視路線。

為什麼重要

我們認為,Orion 展現出的疲態,意味著靠堆規模、堆算力就能輕鬆實現智慧飛躍的暴力美學時代,大機率已經告一段落了。

對普通使用者和開發者來說,現在不用再為 GPT-5 的跳票感到過度焦慮。短期內我們可能看不到全方位碾壓現有水準的萬能模型,這也意味著大家手頭基於現有模型搭建的工作流和應用,不會在一夜之間被推倒重來,大家可以更安心地把精力放在打磨實際場景上。

對整個行業而言,領頭羊的放緩會讓追趕者的身位咬得更緊。當最前沿模型的算力紅利見頂,各家大廠的競爭勢必會從拼引數規模,轉向拼後訓練微調和實際落地效率。誰能在垂直領域把現有模型的潛力榨乾,誰就能佔到便宜。

但從策略上看,拿 AI 生成的合成數據去訓練下一代 AI,看起來雖然是迫不得已的聰明招數,背後其實藏著不小的隱患。模型會不會在自我生成的迴圈裡產生模型退化,後訓練能不能徹底彌補底層能力的不足,依然需要打個大大的問號。OpenAI 正在探索的這條新路,可以說是硬著頭皮在給全行業趟雷。

來源 (2)

  1. [1]
    theinformation.com(在新分頁開啟)原文theinformation.com
  2. [2]

話題追蹤OpenAI Orion 模型開發

這個話題的歷次新聞,最新的在上面。

  1. OpenAI 調整大模型研發策略:代號 Orion 提升放緩,轉向合成數據與後訓練本則
  2. OpenAI 傳 12 月釋出下一代旗艦模型 Orion,官方回應否認
  3. OpenAI 曝光新模型 Strawberry:向美官員展示,正用來訓練下一代 Orion

每日 AI 內容精選