跳到正文
IFAI

行业动态

OpenAI 联手甲骨文扩充算力:借 OCI 跑推理,缓解 ChatGPT 压力

首次发布 传播指数 40

本周 OpenAI、微软与 Oracle 达成合作,OpenAI 将在 Oracle 云基础设施上运行 Azure AI 平台以扩充推理算力。此前 OpenAI 算力完全依赖微软,但面对 ChatGPT 庞大需求已捉襟见肘。官方强调战略关系不变,前沿模型预训练仍留在微软超算上。

OpenAI 联手甲骨文扩充算力:借 OCI 跑推理,缓解 ChatGPT 压力
图:theverge.com

就算傍上了微软这条大腿,OpenAI 的算力饥渴还是填不满。

本周 OpenAI、微软和 Oracle 达成了一项三方合作。简单来说,就是 OpenAI 可以在 Oracle 的云基础设施(OCI)上调用微软的 Azure AI 平台,以此获得更多算力来撑起 ChatGPT 的运转。

OpenAI 首席执行官 Sam Altman 一直没掩饰过自家的基础设施缺口,他此前甚至在到处拉投资,想搞个几十亿美元的芯片合资项目。在这次的合作声明里,Altman 明确表示 Oracle 的芯片将让 OpenAI 能够继续扩展规模。

微软喂不饱,只能找外援

在此之前,OpenAI 的算力基本全部押在微软身上。微软前前后后给 OpenAI 的营利性子公司砸了 130 亿美元,拿了 49% 的股份,还握着技术的独家商业授权。

但随着用户量暴涨,光靠微软自家的机房,已经跟不上日常的消耗了。为了防止 ChatGPT 未来继续频繁宕机,OpenAI 必须寻找新的芯片供应。

有意思的是,Oracle 同时还在给马斯克的 xAI 提供云基础设施。两家在外面打得不可开交的 AI 对手,如今在底层机房里成了 Oracle 的同门客户。

训练留给亲爹,干活找外包

微软和 OpenAI 显然都很清楚外界会怎么看这次合作。周三 OpenAI 特意发了一份补充声明,强调两家公司的战略云伙伴关系没有任何改变。

OpenAI 还专门划清了界线:最核心的前沿模型预训练,依然只在与微软合作打造的超级计算机上进行。

至于从 Oracle 借来的这批算力,主要负责的是推理和其他需求。所谓推理,说白了就是模型练成之后,用户每次在 ChatGPT 里提问时模型跑的实际运算。

为什么重要

对普通用户和开发者来说,最直接的好处是 ChatGPT 可能不会那么容易卡顿或报错了。随着模型被越来越多人塞进工作流,推理算力其实成了每天都在烧的大头开销,能保住服务稳定就是保住基本盘。

我们认为,微软这次同意把 Oracle 放进来,本身就是一个极强的行业信号。哪怕手里握着独家授权和巨额股份,面对前所未有的算力短缺,微软也不得不妥协,放任自己最核心的 AI 资产跑在对手的云上。

这种把任务切开的做法看起来很聪明:最关键、最关乎模型智商的预训练牢牢扣在微软超算里,日常接待用户的推理活儿分流出去给 Oracle。既守住了技术护城河,又解决了眼前的燃眉之急。但也反映出当前前沿 AI 的隐患,即使是头部玩家,目前的扩张速度也正在被物理世界的机房和芯片死死卡住脖子。

来源 (1)

  1. [1]
    theverge.com(在新标签页打开)原文theverge.com

话题追踪微软 AI 超级计算基础设施建设

这个话题的历次新闻,最新的在上面。

  1. 纳德拉在 G7 峰会发言:过去三个月向印尼、肯尼亚等国投 50 亿美元建 AI 设施
  2. OpenAI 联手甲骨文扩充算力:借 OCI 跑推理,缓解 ChatGPT 压力本条
  3. 微软挖来前 Meta 基础架构副总裁,负责下一代 AI 超算系统
  4. 传微软与 OpenAI 拟建千亿美元超算「星际之门」

每日 AI 内容精选