ARC 修正 OpenAI o3 成本估算:解一道難題或燒掉 3 萬美元
據 TechCrunch 報道,Arc Prize Foundation 上調了對 OpenAI o3 的推理成本預估。表現最強的 o3 high 解決單個 ARC-AGI 難題可能要花 3 萬美元,遠超此前預估的 3000 美元。該模型拿最高分需嘗試 1024 次,算力消耗達低配版的 172 倍。

推理能力拉滿的代價,可能比我們想像的還要誇張得多。
去年 12 月 OpenAI 剛公佈推理模型 o3 的時候,拿下了知名基準測試 ARC-AGI 的超高分,震驚了不少人。當時主辦方測算,讓最強配置的 o3 high 解出一道題,大概要燒掉 3000 美元。
但這筆賬現在得重算了。上週,負責 ARC-AGI 測試的 Arc Prize Foundation 更新了估算資料:解開一道題的成本不是 3000 美元,而是可能高達 30000 美元。做一道測試題的算力開銷,直接漲了十倍。
拿 1024 次試錯堆出來的聰明
這筆天價開銷是怎麼算出來的?說白了,核心原因在於測試時算力(test-time compute)的消耗過於驚人。
OpenAI 至今沒有正式釋出 o3,自然也沒有公佈官方定價。Arc Prize 基金會聯合創始人 Mike Knoop 解釋,他們現在是拿 OpenAI 現存最貴的 o1-pro 價格作為參考基準,來推算 o3 的真實成本。
Mike Knoop 提到,因為涉及巨量的推理算力,用 o1-pro 當參照物更貼近現實,但在 OpenAI 正式定標之前,榜單上的 o3 依然只能算作預覽版。
而且不同配置之間的差距大得嚇人。根據測試方披露的資料,為了在 ARC-AGI 上拿到頂尖成績,o3 high 消耗的算力是低配版 o3 low 的整整 172 倍。
AI 研究員 Toby Ord 隨後在 X 上澆了一盆冷水。他指出這種高分本質上是靠笨辦法堆出來的:o3 high 在每道題上嘗試了多達 1024 次,才刷出了那個亮眼的分數。這哪裡是靈光一現,分明是拿海量算力暴力窮舉。
這也和此前的行業風聲對上了。3 月初 The Information 曾爆料,OpenAI 正在考慮面向企業推出天價方案,比如專門用於寫程式碼的高階 AI Agent,每個月訂閱費可能高達 20000 美元。
為什麼重要
我們認為,這則成本修正撕開了所謂「前沿推理能力」最尷尬的底褲。
對開發者和企業來說,哪怕這個模型明天就開放,你也根本不敢隨便接進業務。一道抽象邏輯題就要燒掉 30000 美元,就算拿它來寫工業級程式碼,只要遇到卡殼反覆試錯,幾天的賬單就足以嚇退絕大部分初創公司。現在它更像是個昂貴的實驗室展品,離日常商用還有十萬八千里。
對行業而言,它也把大模型的競賽帶到了一個新的分岔口。之前行業以為 Scaling Law 在推理階段依然能無腦推下去,但 172 倍的算力和 1024 次取樣只換來一定比例的成功率提升,邊際效益遞減已經非常嚴重。如果不能把推理搜尋的效率提上去,只靠暴力窮舉,算力成本遲早會把商業化堵死。
看起來,OpenAI 確實把 AI 的智商上限往上推了一大截,但這種「不惜代價」的做法隱患很明顯。當解決問題的成本遠遠高出僱傭人類頂尖專家的費用時,企業使用者會非常清醒地退回傳統方案。接下來誰能把這種測試時推理成本打下來十倍甚至百倍,誰才擁有真正的商業未來。
來源 (1)
- techcrunch.com(在新分頁開啟)原文techcrunch.com
話題追蹤OpenAI 推理模型的成本問題
- OpenAI 推出 Flex processing:響應變慢,API 價格直接砍半
- ARC 修正 OpenAI o3 成本估算:解一道難題或燒掉 3 萬美元本則
- OpenAI 上線 o1-pro API:能力更強,但百萬輸出 token 要 600 美元