OpenAI 聯手甲骨文擴充算力:借 OCI 跑推理,緩解 ChatGPT 壓力
本週 OpenAI、微軟與 Oracle 達成合作,OpenAI 將在 Oracle 雲基礎設施上執行 Azure AI 平臺以擴充推理算力。此前 OpenAI 算力完全依賴微軟,但面對 ChatGPT 龐大需求已捉襟見肘。官方強調戰略關係不變,前沿模型預訓練仍留在微軟超算上。

就算傍上了微軟這條大腿,OpenAI 的算力飢渴還是填不滿。
本週 OpenAI、微軟和 Oracle 達成了一項三方合作。簡單來說,就是 OpenAI 可以在 Oracle 的雲基礎設施(OCI)上呼叫微軟的 Azure AI 平臺,以此獲得更多算力來撐起 ChatGPT 的運轉。
OpenAI 執行長 Sam Altman 一直沒掩飾過自家的基礎設施缺口,他此前甚至在到處拉投資,想搞個幾十億美元的晶片合資專案。在這次的合作聲明裡,Altman 明確表示 Oracle 的晶片將讓 OpenAI 能夠繼續擴充套件規模。
微軟喂不飽,只能找外援
在此之前,OpenAI 的算力基本全部押在微軟身上。微軟前前後後給 OpenAI 的營利性子公司砸了 130 億美元,拿了 49% 的股份,還握著技術的獨家商業授權。
但隨著使用者量暴漲,光靠微軟自家的機房,已經跟不上日常的消耗了。為了防止 ChatGPT 未來繼續頻繁宕機,OpenAI 必須尋找新的晶片供應。
有意思的是,Oracle 同時還在給馬斯克的 xAI 提供雲基礎設施。兩家在外面打得不可開交的 AI 對手,如今在底層機房裡成了 Oracle 的同門客戶。
訓練留給親爹,幹活找外包
微軟和 OpenAI 顯然都很清楚外界會怎麼看這次合作。週三 OpenAI 特意發了一份補充宣告,強調兩家公司的戰略雲夥伴關係沒有任何改變。
OpenAI 還專門劃清了界線:最核心的前沿模型預訓練,依然只在與微軟合作打造的超級計算機上進行。
至於從 Oracle 借來的這批算力,主要負責的是推理和其他需求。所謂推理,說白了就是模型練成之後,使用者每次在 ChatGPT 裡提問時模型跑的實際運算。
為什麼重要
對普通使用者和開發者來說,最直接的好處是 ChatGPT 可能不會那麼容易卡頓或報錯了。隨著模型被越來越多人塞進工作流,推理算力其實成了每天都在燒的大頭開銷,能保住服務穩定就是保住基本盤。
我們認為,微軟這次同意把 Oracle 放進來,本身就是一個極強的行業訊號。哪怕手裡握著獨家授權和鉅額股份,面對前所未有的算力短缺,微軟也不得不妥協,放任自己最核心的 AI 資產跑在對手的雲上。
這種把任務切開的做法看起來很聰明:最關鍵、最關乎模型智商的預訓練牢牢扣在微軟超算裡,日常接待使用者的推理活兒分流出去給 Oracle。既守住了技術護城河,又解決了眼前的燃眉之急。但也反映出當前前沿 AI 的隱患,即使是頭部玩家,目前的擴張速度也正在被物理世界的機房和晶片死死卡住脖子。
來源 (1)
- theverge.com(在新分頁開啟)原文theverge.com
話題追蹤微軟 AI 超級計算基礎設施建設
- 納德拉在 G7 峰會發言:過去三個月向印尼、肯亞等國投 50 億美元建 AI 設施
- OpenAI 聯手甲骨文擴充算力:借 OCI 跑推理,緩解 ChatGPT 壓力本則
- 微軟挖來前 Meta 基礎架構副總裁,負責下一代 AI 超算系統
- 傳微軟與 OpenAI 擬建千億美元超算「星際之門」