跳到正文
IFAI

產業動態

OpenAI 聯手甲骨文擴充算力:借 OCI 跑推理,緩解 ChatGPT 壓力

首次發布 傳播指數 40

本週 OpenAI、微軟與 Oracle 達成合作,OpenAI 將在 Oracle 雲基礎設施上執行 Azure AI 平臺以擴充推理算力。此前 OpenAI 算力完全依賴微軟,但面對 ChatGPT 龐大需求已捉襟見肘。官方強調戰略關係不變,前沿模型預訓練仍留在微軟超算上。

OpenAI 聯手甲骨文擴充算力:借 OCI 跑推理,緩解 ChatGPT 壓力
圖:theverge.com

就算傍上了微軟這條大腿,OpenAI 的算力飢渴還是填不滿。

本週 OpenAI、微軟和 Oracle 達成了一項三方合作。簡單來說,就是 OpenAI 可以在 Oracle 的雲基礎設施(OCI)上呼叫微軟的 Azure AI 平臺,以此獲得更多算力來撐起 ChatGPT 的運轉。

OpenAI 執行長 Sam Altman 一直沒掩飾過自家的基礎設施缺口,他此前甚至在到處拉投資,想搞個幾十億美元的晶片合資專案。在這次的合作聲明裡,Altman 明確表示 Oracle 的晶片將讓 OpenAI 能夠繼續擴充套件規模。

微軟喂不飽,只能找外援

在此之前,OpenAI 的算力基本全部押在微軟身上。微軟前前後後給 OpenAI 的營利性子公司砸了 130 億美元,拿了 49% 的股份,還握著技術的獨家商業授權。

但隨著使用者量暴漲,光靠微軟自家的機房,已經跟不上日常的消耗了。為了防止 ChatGPT 未來繼續頻繁宕機,OpenAI 必須尋找新的晶片供應。

有意思的是,Oracle 同時還在給馬斯克的 xAI 提供雲基礎設施。兩家在外面打得不可開交的 AI 對手,如今在底層機房裡成了 Oracle 的同門客戶。

訓練留給親爹,幹活找外包

微軟和 OpenAI 顯然都很清楚外界會怎麼看這次合作。週三 OpenAI 特意發了一份補充宣告,強調兩家公司的戰略雲夥伴關係沒有任何改變。

OpenAI 還專門劃清了界線:最核心的前沿模型預訓練,依然只在與微軟合作打造的超級計算機上進行。

至於從 Oracle 借來的這批算力,主要負責的是推理和其他需求。所謂推理,說白了就是模型練成之後,使用者每次在 ChatGPT 裡提問時模型跑的實際運算。

為什麼重要

對普通使用者和開發者來說,最直接的好處是 ChatGPT 可能不會那麼容易卡頓或報錯了。隨著模型被越來越多人塞進工作流,推理算力其實成了每天都在燒的大頭開銷,能保住服務穩定就是保住基本盤。

我們認為,微軟這次同意把 Oracle 放進來,本身就是一個極強的行業訊號。哪怕手裡握著獨家授權和鉅額股份,面對前所未有的算力短缺,微軟也不得不妥協,放任自己最核心的 AI 資產跑在對手的雲上。

這種把任務切開的做法看起來很聰明:最關鍵、最關乎模型智商的預訓練牢牢扣在微軟超算裡,日常接待使用者的推理活兒分流出去給 Oracle。既守住了技術護城河,又解決了眼前的燃眉之急。但也反映出當前前沿 AI 的隱患,即使是頭部玩家,目前的擴張速度也正在被物理世界的機房和晶片死死卡住脖子。

來源 (1)

  1. [1]
    theverge.com(在新分頁開啟)原文theverge.com

話題追蹤微軟 AI 超級計算基礎設施建設

這個話題的歷次新聞,最新的在上面。

  1. 納德拉在 G7 峰會發言:過去三個月向印尼、肯亞等國投 50 億美元建 AI 設施
  2. OpenAI 聯手甲骨文擴充算力:借 OCI 跑推理,緩解 ChatGPT 壓力本則
  3. 微軟挖來前 Meta 基礎架構副總裁,負責下一代 AI 超算系統
  4. 傳微軟與 OpenAI 擬建千億美元超算「星際之門」

每日 AI 內容精選