跳到正文
IFAI

大模型

OpenAI 悄悄更新 GPT-4o:重回競技場第一,官方卻說不清哪變強了

首次發布 傳播指數 49

據報道,OpenAI 已在 ChatGPT 中上線 GPT-4o 更新版本並重奪 Chatbot Arena 榜首。官方坦言很難細緻量化模型行為變化,僅表示是基於使用者反饋增刪資料與常規迭代,同時將最大輸出擴充套件至 16,384 token。

OpenAI 悄悄更新 GPT-4o:重回競技場第一,官方卻說不清哪變強了
圖:zdnet.com

很多時候,AI 廠商發新版本就像交卷,恨不得把每一門考了多少分都列得清清楚楚。但這次 OpenAI 的操作,多少有點「薛定諤的升級」。

8 月 14 日據報道,OpenAI 已經在 ChatGPT 和 API 裡上線了一個新版 GPT-4o。不僅普通使用者和付費訂閱者能用上,它還在大模型競技場 Chatbot Arena 上悄悄拿下第一,把單次最大輸出長度一口氣拉到了 16,384 token。但尷尬的是,官方自己也說不清它到底具體好在哪。

使用者猜了半天,官方說在洗資料

事情最初源於社群的敏銳嗅覺。在 OpenAI 正式發聲之前,不少 ChatGPT 使用者就發現機器人的表現有點不一樣了,接任務和回答的方式比過去更靈敏。

甚至有人猜測這是不是加入了原生影像生成,或者所謂的「多步推理」。X 平臺上有使用者發帖稱,GPT-4o 展現出了驚人的多步拆解能力。不過 OpenAI 發言人隨後明確否認,表示關於多步推理的猜測並沒有切中要害。

直到週二,OpenAI 才在釋出說明裡給這次更新定了調,並在模型列表中將其命名為 chatgpt-4o-latest。官方解釋它並不是一個全新的前沿模型,主要是日常的「錯誤修復與效能改進」。

至於到底改了什麼,官方的口吻顯得格外坦誠,甚至帶點無奈。OpenAI 表示,如何細緻地量化評估並向外界傳達模型行為的改善,本身就是一個仍在探索的研究課題。團隊目前做的事情,就是根據使用者反饋增刪資料、清理噪音,並做一些常規的方法試驗。

說白了,OpenAI 看到實驗資料和使用者偏好都在變好,但要拿出像樣的測試說明書,連工程師自己也犯難。官方的態度更像是:大家先用用看,好不好你們告訴我。

跑分重回第一,輸出長度翻了兩番

雖然說不清細節,但實際效果並不含糊。

在盲測 AI 對決的 Chatbot Arena 上,這個版本此前化名為「anonymous-chatbot」參與測試。經過社群超過 11,000 次投票,它拿到了 1315 的高分,順勢從 Google 的 Gemini 1.5 手裡搶回了榜首位置。

從具體測試表現來看,這個新版本在程式設計、指令遵循以及困難提示詞(hard prompts)上的提升最為明顯。

另外一個實打實的改變是輸出上限。雖然它的上下文視窗依然是 128,000 token,訓練資料也停在 2023 年 10 月,但單次最大輸出從原版 GPT-4o 的 4,096 token 直接提升到了 16,384 token,和輕量版的 GPT-4o-mini 持平。

對於需要讓 AI 寫長篇程式碼、生成完整報告的開發者來說,這意味著中途被截斷的次數會少很多。順便一提,OpenAI 明確表示這並不是上週登陸微軟 Azure 的 gpt-4o-2024-08-06,而是專供 ChatGPT 和動態評測的獨立分支。

為什麼重要

對普通使用者和開發者來說,這次更新幾乎是零門檻的福利。你不需要切換任何複雜的設定,只要在網頁或手機端開啟 GPT-4o,就已經在用它了。特別是最大輸出拉到 16,384 token 之後,做長文本生成和複雜指令碼編寫時體驗會有實質提升,非常值得現在就去試一試。

但從行業競爭的角度看,這件事暴露了大模型領域一個越來越棘手的問題:現有的基準測試可能快要不夠用了。

過去大家拼引數、拼幾個公開資料集的分數,優劣一目瞭然。而現在前沿模型已經進入了微調資料和人類主觀偏好的深水區,連 OpenAI 這樣擁有頂尖研究團隊的機構,也很難用傳統指標講清楚「為什麼這個回答比上週更好」。

我們認為,OpenAI 這種「先根據使用者反饋改資料、扔進 Arena 靠盲測驗證」的做法雖然很聰明,能讓產品快速吸收真實世界的偏好並壓制對手,但也帶來了一種明顯的隱患。當模型的行為變化變得不可捉摸、無法細分歸因時,依賴它的企業級應用在穩定性和一致性上就不得不承擔更多未知的風險。

來源 (1)

  1. [1]
    zdnet.com(在新分頁開啟)原文zdnet.com

話題追蹤OpenAI GPT-4o 模型更新

這個話題的歷次新聞,最新的在上面。

  1. OpenAI 悄悄更新 GPT-4o:重回競技場第一,官方卻說不清哪變強了本則
  2. GPT-4o 最新版重奪 LMSYS 榜首:超越 Gemini,程式碼能力大漲 30 分
  3. OpenAI 悄然更新 GPT-4o:輸出長度翻四倍,但拒絕透露改了啥

每日 AI 內容精選