跳到正文
IFAI

產業動態

NVIDIA 釋出 Blackwell 晶片架構:推理速度提升 5 倍,直奔萬億引數模型

首次發布 傳播指數 54

NVIDIA CEO 黃仁勳釋出新一代 Blackwell 架構。它專為萬億引數多模態模型打造,單晶片 FP4 推理效能達前代 Hopper 的 5 倍,訓練效能提升 2.5 倍,同時還帶來了打包部署工具 NIM。說白了,AI 算力正在全面告別通用計算,各家巨頭也已集體排隊採購。

圖:blogs.nvidia.com

黃仁勳從口袋裡掏出一塊黑色晶片,跟兩年前釋出的 Hopper 擺在一起。Hopper 瞬間顯得像個玩具,臺下坐著的一萬兩千多名開發者和科技公司高管頓時安靜了一下。

這是 GTC 現場最抓人的一幕。通用計算已經跑不動了,而萬億引數的多模態大模型還在成倍吃算力,輝達給出的答案就是全新的 Blackwell 架構。

把算力怪獸裝進一個機櫃

新架構以數學家 David Harold Blackwell 命名。單顆 Blackwell 晶片在 FP8 精度下的訓練效能是 Hopper 的 2.5 倍,到了 FP4 精度的推理場景,速度直接飆到了 5 倍。

為了把這些晶片串起來,輝達拿出了第五代 NVLink 互聯技術,速度比前代翻了一倍,最多能把 576 顆 GPU 連在一起協同工作。配套的 NVLink Switch 晶片單顆能支撐 1.8 TB/s 的頻寬,直接在網路內部做資料歸約。

更誇張的是整機系統。由兩顆 B200 GPU 和一顆 Grace CPU 組成的 GB200 超級晶片,通過 900 GB/s 的超低功耗互聯接在一起,黃仁勳管它叫一個大晶片。

把這些塞進液冷機架,就成了 GB200 NVL72。整臺機器重達 3000 磅,包含 60 萬個零件,在單個機櫃裡能榨出 1.4 exaflops 的 FP4 推理算力。再往上堆疊的 DGX SuperPOD,FP4 超算算力直接衝到了 11.5 exaflops。

別寫程式碼了,直接組建 AI 團隊

除了硬體,輝達這次花了很大篇幅講軟體交付的新方式,名字叫 NIM 微服務。

黃仁勳在臺上直說,未來的軟體開發大機率不再是程式設計師敲一大堆 Python 程式碼,而是直接組裝現成的 AI 模型團隊,給它們派任務、看中間結果。

NIM 本質上是把常用的模型和加速庫打包成標準微服務,支援行業標準 API。企業既可以直接拿現成的用,也能拿自己的專有資料訓出定制的 Copilot。

硬體製造環節也有新動作。輝達宣佈計算光刻平臺 cuLitho 正式投入生產,台積電和新思科技已經入局,據說能把半導體制造裡最耗算力的環節加速 40 到 60 倍。

為什麼重要

對開發者和企業來說,Blackwell 和 NIM 傳達的訊號很直接:模型落地成本將斷崖式下跌。推理端 5 倍的效能提升,意味著以前跑起來心疼的萬億引數模型,現在部署門檻被大幅拉低,小團隊做重度 AI 應用的價效比也更高了。

對行業競爭而言,輝達正在把護城河從單一的算力晶片,推向整個資料中心繫統和軟體分發層。當微服務、高速網路和液冷機櫃被整套打包出售時,其他做專用 ASIC 晶片的對手不僅要在算力上追趕,還得在整個機櫃級系統架構上補課。

我們認為,輝達這套打法極其聰明,但隱患同樣明顯。把 72 顆 GPU 塞進單個液冷機架,直接把部署難度轉移到了機房的水電配套上,3000 磅的重量和極高的散熱要求,意味著普通資料中心根本接不住,只有頂級雲廠商有能力快速消化這批怪獸。

來源 (2)

  1. [1]
    blogs.nvidia.com(在新分頁開啟)原文blogs.nvidia.com
  2. [2]
    venturebeat.com(在新分頁開啟)報導venturebeat.com

每日 AI 內容精選