跳到正文
IFAI

大模型

ARC 修正 OpenAI o3 成本估算:解一道难题或烧掉 3 万美元

首次发布 传播指数 49

据 TechCrunch 报道,Arc Prize Foundation 上调了对 OpenAI o3 的推理成本预估。表现最强的 o3 high 解决单个 ARC-AGI 难题可能要花 3 万美元,远超此前预估的 3000 美元。该模型拿最高分需尝试 1024 次,算力消耗达低配版的 172 倍。

ARC 修正 OpenAI o3 成本估算:解一道难题或烧掉 3 万美元
图:techcrunch.com

推理能力拉满的代价,可能比我们想象的还要夸张得多。

去年 12 月 OpenAI 刚公布推理模型 o3 的时候,拿下了知名基准测试 ARC-AGI 的超高分,震惊了不少人。当时主办方测算,让最强配置的 o3 high 解出一道题,大概要烧掉 3000 美元。

但这笔账现在得重算了。上周,负责 ARC-AGI 测试的 Arc Prize Foundation 更新了估算数据:解开一道题的成本不是 3000 美元,而是可能高达 30000 美元。做一道测试题的算力开销,直接涨了十倍。

拿 1024 次试错堆出来的聪明

这笔天价开销是怎么算出来的?说白了,核心原因在于测试时算力(test-time compute)的消耗过于惊人。

OpenAI 至今没有正式发布 o3,自然也没有公布官方定价。Arc Prize 基金会联合创始人 Mike Knoop 解释,他们现在是拿 OpenAI 现存最贵的 o1-pro 价格作为参考基准,来推算 o3 的真实成本。

Mike Knoop 提到,因为涉及巨量的推理算力,用 o1-pro 当参照物更贴近现实,但在 OpenAI 正式定标之前,榜单上的 o3 依然只能算作预览版。

而且不同配置之间的差距大得吓人。根据测试方披露的数据,为了在 ARC-AGI 上拿到顶尖成绩,o3 high 消耗的算力是低配版 o3 low 的整整 172 倍。

AI 研究员 Toby Ord 随后在 X 上浇了一盆冷水。他指出这种高分本质上是靠笨办法堆出来的:o3 high 在每道题上尝试了多达 1024 次,才刷出了那个亮眼的分数。这哪里是灵光一现,分明是拿海量算力暴力穷举。

这也和此前的行业风声对上了。3 月初 The Information 曾爆料,OpenAI 正在考虑面向企业推出天价方案,比如专门用于写代码的高级 AI Agent,每个月订阅费可能高达 20000 美元。

为什么重要

我们认为,这则成本修正撕开了所谓「前沿推理能力」最尴尬的底裤。

对开发者和企业来说,哪怕这个模型明天就开放,你也根本不敢随便接进业务。一道抽象逻辑题就要烧掉 30000 美元,就算拿它来写工业级代码,只要遇到卡壳反复试错,几天的账单就足以吓退绝大部分初创公司。现在它更像是个昂贵的实验室展品,离日常商用还有十万八千里。

对行业而言,它也把大模型的竞赛带到了一个新的分岔口。之前行业以为 Scaling Law 在推理阶段依然能无脑推下去,但 172 倍的算力和 1024 次采样只换来一定比例的成功率提升,边际效益递减已经非常严重。如果不能把推理搜索的效率提上去,只靠暴力穷举,算力成本迟早会把商业化堵死。

看起来,OpenAI 确实把 AI 的智商上限往上推了一大截,但这种「不惜代价」的做法隐患很明显。当解决问题的成本远远高出雇佣人类顶尖专家的费用时,企业用户会非常清醒地退回传统方案。接下来谁能把这种测试时推理成本打下来十倍甚至百倍,谁才拥有真正的商业未来。

来源 (1)

  1. [1]
    techcrunch.com(在新标签页打开)原文techcrunch.com

话题追踪OpenAI 推理模型的成本问题

这个话题的历次新闻,最新的在上面。

  1. OpenAI 推出 Flex processing:响应变慢,API 价格直接砍半
  2. ARC 修正 OpenAI o3 成本估算:解一道难题或烧掉 3 万美元本条
  3. OpenAI 上线 o1-pro API:能力更强,但百万输出 token 要 600 美元

每日 AI 内容精选