OpenAI 联手甲骨文扩充算力:借 OCI 跑推理,缓解 ChatGPT 压力
本周 OpenAI、微软与 Oracle 达成合作,OpenAI 将在 Oracle 云基础设施上运行 Azure AI 平台以扩充推理算力。此前 OpenAI 算力完全依赖微软,但面对 ChatGPT 庞大需求已捉襟见肘。官方强调战略关系不变,前沿模型预训练仍留在微软超算上。

就算傍上了微软这条大腿,OpenAI 的算力饥渴还是填不满。
本周 OpenAI、微软和 Oracle 达成了一项三方合作。简单来说,就是 OpenAI 可以在 Oracle 的云基础设施(OCI)上调用微软的 Azure AI 平台,以此获得更多算力来撑起 ChatGPT 的运转。
OpenAI 首席执行官 Sam Altman 一直没掩饰过自家的基础设施缺口,他此前甚至在到处拉投资,想搞个几十亿美元的芯片合资项目。在这次的合作声明里,Altman 明确表示 Oracle 的芯片将让 OpenAI 能够继续扩展规模。
微软喂不饱,只能找外援
在此之前,OpenAI 的算力基本全部押在微软身上。微软前前后后给 OpenAI 的营利性子公司砸了 130 亿美元,拿了 49% 的股份,还握着技术的独家商业授权。
但随着用户量暴涨,光靠微软自家的机房,已经跟不上日常的消耗了。为了防止 ChatGPT 未来继续频繁宕机,OpenAI 必须寻找新的芯片供应。
有意思的是,Oracle 同时还在给马斯克的 xAI 提供云基础设施。两家在外面打得不可开交的 AI 对手,如今在底层机房里成了 Oracle 的同门客户。
训练留给亲爹,干活找外包
微软和 OpenAI 显然都很清楚外界会怎么看这次合作。周三 OpenAI 特意发了一份补充声明,强调两家公司的战略云伙伴关系没有任何改变。
OpenAI 还专门划清了界线:最核心的前沿模型预训练,依然只在与微软合作打造的超级计算机上进行。
至于从 Oracle 借来的这批算力,主要负责的是推理和其他需求。所谓推理,说白了就是模型练成之后,用户每次在 ChatGPT 里提问时模型跑的实际运算。
为什么重要
对普通用户和开发者来说,最直接的好处是 ChatGPT 可能不会那么容易卡顿或报错了。随着模型被越来越多人塞进工作流,推理算力其实成了每天都在烧的大头开销,能保住服务稳定就是保住基本盘。
我们认为,微软这次同意把 Oracle 放进来,本身就是一个极强的行业信号。哪怕手里握着独家授权和巨额股份,面对前所未有的算力短缺,微软也不得不妥协,放任自己最核心的 AI 资产跑在对手的云上。
这种把任务切开的做法看起来很聪明:最关键、最关乎模型智商的预训练牢牢扣在微软超算里,日常接待用户的推理活儿分流出去给 Oracle。既守住了技术护城河,又解决了眼前的燃眉之急。但也反映出当前前沿 AI 的隐患,即使是头部玩家,目前的扩张速度也正在被物理世界的机房和芯片死死卡住脖子。
来源 (1)
- theverge.com(在新标签页打开)原文theverge.com
话题追踪微软 AI 超级计算基础设施建设
- 纳德拉在 G7 峰会发言:过去三个月向印尼、肯尼亚等国投 50 亿美元建 AI 设施
- OpenAI 联手甲骨文扩充算力:借 OCI 跑推理,缓解 ChatGPT 压力本条
- 微软挖来前 Meta 基础架构副总裁,负责下一代 AI 超算系统
- 传微软与 OpenAI 拟建千亿美元超算「星际之门」