OpenAI 聯合輝達等開源 MRC 協議:微秒級繞開故障,讓超算訓練不掉線
OpenAI 聯合 AMD、Broadcom、Intel、微軟與 NVIDIA 通過 OCP 開源了 MRC 網路協議。它能將資料切片分散到數百條網路路徑,並在微秒內繞開硬體故障。該協議已部署在 GB200 超算叢集中,成功保障了多個前沿模型的平穩訓練。
OpenAI 聯合 AMD、Broadcom、Intel、微軟與 NVIDIA 通過 OCP 開源了 MRC 網路協議。它能將資料切片分散到數百條網路路徑,並在微秒內繞開硬體故障。該協議已部署在 GB200 超算叢集中,成功保障了多個前沿模型的平穩訓練。
OpenAI 宣佈與 Oracle 達成協議,在美國新增 4.5 GW 的 Stargate 資料中心容量。算上得州阿比林專案,其在建算力容量已突破 5 GW,可容納超 200 萬張晶片。得州站點已進駐首批 Nvidia GB200 機架,並開始執行早期訓練和推理。
Nvidia CEO 黃仁勳表示,由於分步推理機制普及,新一代 AI 的計算需求已比 ChatGPT 釋出時暴增 100 倍。他反駁了市場對算力見頂的擔憂,強調推理模型實際上需要更多晶片支撐。目前其在華收入佔比已腰斬,但開發者仍會通過軟體尋找出路。
Nvidia 在 Q3 財報會上表示,最新 Blackwell 晶片已全面量產並在「全速」推進,本季度已交付 1.3 萬個樣品。針對此前的散熱傳聞,CEO 黃仁勳稱系統狀態極佳,後續每季度的出貨量還會繼續擴大。
輝達公佈第二季度財報,營收同比增長 122% 達到 300.4 億美元,資料中心業務暴漲 154%。不過由於毛利率環比小幅下滑,加上市場預期被拉得太滿,財報公佈後盤後股價反而跌超 7%。
NVIDIA CEO 黃仁勳釋出新一代 Blackwell 架構。它專為萬億引數多模態模型打造,單晶片 FP4 推理效能達前代 Hopper 的 5 倍,訓練效能提升 2.5 倍,同時還帶來了打包部署工具 NIM。說白了,AI 算力正在全面告別通用計算,各家巨頭也已集體排隊採購。