跳到正文
IFAI

開源專案

OpenAI 擬推開源模型:遇難題可「呼叫雲端」求助

首次發布 傳播指數 44

據 TechCrunch 報道,OpenAI 計劃在初夏推出的開源推理模型中加入「交接」(handoff)功能,本地遇到複雜問題可直接呼叫雲端更強模型。該模型從零訓練,部分基準測試瞄準超越 DeepSeek R1。這種本地加雲端的打法,顯然是想順便把開源開發者拉進其付費生態。

OpenAI 擬推開源模型:遇難題可「呼叫雲端」求助
圖:techcrunch.com

大概有五年沒正經碰過開源權重的 OpenAI,最近被爆出正憋著一個大招。

據 TechCrunch 報道,OpenAI 計劃在今年初夏釋出一款真正意義上的「開放」推理模型。它不需要綁在 API 後面,任何人都可以免費下載權重到本地執行。

但這還不是最騷的操作。為了讓這個本地模型不至於淪為純粹的玩具,OpenAI 正琢磨著給它安一個特殊的「求救按鈕」。

讓本地模型給雲端大號「打電話」

兩位知情人士透露,OpenAI 高層正在討論一項能力:讓這款本地開放模型在遇到搞不定的複雜問題時,主動連回 OpenAI 的雲端大模型求助。

在最近一次與開源社群開發者的交流中,OpenAI 執行長 Sam Altman 把這種機制叫作「接力」(handoff)。

這個想法最初其實來自一位參加開發者論壇的外部開發者,隨後在 OpenAI 內部迅速獲得了支援。說白了,它就像是你在本地跑一個精簡版模型處理日常任務,一旦遇到硬骨頭,本地模型就會自動發起 API 請求,拉來雲端那些幾十倍體積的巨無霸模型頂上。

至於這個開源模型能不能順便用上聯網搜尋或圖片生成等工具,目前還沒有定論,計費方式和呼叫頻率限制也都在早期討論階段。

在技術路線上,OpenAI 沒有拿已有的舊模型縫縫補補,而是正在從零開始訓練一個全新的推理架構。

據一位訊息人士透露,該模型的目標是在部分基準測試中壓過 DeepSeek 的 R1,不過效能預期依然會低於 OpenAI 自家的閉源王牌 o3。

為什麼重要

如果這套「接力」功能真的落地,普通開發者和極客們的本地部署門檻將被徹底打穿。

你可以把小模型裝在自己的筆記本或邊緣裝置上,日常的程式碼補全、簡單問答完全免費且低延遲執行。只有碰到深奧的邏輯推演時才按次付費搖人,這種端雲協同體驗此前基本只有蘋果的 Apple Intelligence 這種軟硬體一體巨頭能做。

我們認為,OpenAI 這一步走得相當狡黠。

面對 Meta 的 Llama 和 DeepSeek 的強勢包夾,純做閉源 API 會逐漸失去開源社群的主導權。但要是完全免費開源,OpenAI 的鉅額算力投入又很難收回成本。

做成「接力」模式,看起來是擁抱了開源,實際上是給自家的付費雲端生態裝了一個隨身攜帶的抓手。它不僅能正面迎擊開源競品,還能把大量原本只在本地玩的開發者,順理成章地轉化為付費 API 客戶。

隱患也顯而易見。真正的開源擁躉看重的是資料主權和離線隱私,如果模型動不動就想連網回傳,社群免不了會懷疑這究竟是真開源,還是給雲服務拉客的試用裝。

來源 (1)

  1. [1]
    techcrunch.com(在新分頁開啟)原文techcrunch.com

每日 AI 內容精選