Cisco 推出 G200 網路晶片:專為 AI 超算打造,可連 3.2 萬塊 GPU
Cisco 推出專為 AI 超級計算機設計的 G200 和 G202 網路晶片,直接叫板博通和 Marvell。兩款晶片效能較前代翻倍,最多可將 32,000 塊 GPU 連線在一起,並降低最高 40% 的功耗。目前六大雲服務商中已有五家進場測試。
現在所有人都在瘋搶輝達的 GPU,但很多人容易忽略一件事:當數千張甚至上萬張顯示卡並聯在一起訓練大模型時,決定速度上限的往往不是單張卡的算力,而是卡與卡之間通訊的網路通道。
面對這個瓶頸,網路裝置巨頭思科(Cisco)正式推出了專為 AI 超級計算機打造的網路晶片 G200 和 G202,直接向晶片巨頭博通(Broadcom)和美滿電子(Marvell)發起正面進攻。
把三萬兩千張顯示卡連成一臺機器
隨著 ChatGPT 等生成式 AI 爆火,底層訓練叢集的規模正在以誇張的速度膨脹。GPU 之間要是通訊慢半拍,整套算力叢集都得乾等著。
思科給出的解法是新一代乙太網路交換晶片 G200 與 G202。思科 Fellow、前首席工程師 Rakesh Chopra 表示,這兩款晶片有望成為市場上效能最強勁的網路晶片。
從紙面引數來看,這兩款晶片的吞吐效能比上一代直接翻了一倍,單套網路架構最多能夠支援連線 32000 張 GPU。
更關鍵的是功耗。思科表示,新晶片減少了叢集對中間交換機節點的需求,大幅降低了傳輸延遲,同時最高能幫資料中心降低 40% 的網路功耗。在如今算力中心電網負載逼近極限的背景下,省下四成電量幾乎就是實打實的真金白銀。
雲巨頭已經進場驗貨
雖然思科沒有直接點名,但他們透露,全球排名前六的雲端計算巨頭裡,已經有五家正在測試這兩款晶片。放眼當下的雲市場,排在前面的無非就是亞馬遜 AWS、微軟 Azure 和谷歌 Google Cloud 等幾家巨頭。
這番動作也暗合了思科當下的轉型路徑。在最近公佈的財報中,思科的營收、Non-GAAP 淨利潤與現金流均刷新歷史紀錄,並上調了 2023 財年預期。
思科董事長兼 CEO 查克·羅賓斯(Chuck Robbins)明確提到,公司年度經常性收入(ARR)已接近 240 億美元,軟體訂閱業務穩步增長。而未來長期增長的三大支柱之一,就是用網路基礎設施全面切入生成式 AI 與雲端計算。
為什麼重要
大模型軍備競賽打到現在,戰火已經從單純的買顯示卡蔓延到了網路通訊架構。誰能降低叢集延遲和掉線率,誰就能在萬億引數模型的訓練上跑得更快。
對雲服務商和自建大型算力的企業來說,思科入局最大的價值是打破壟斷。過去在 AI 高效能網路晶片領域,博通等少數幾家廠商幾乎掌握了絕對話語權,多一個重量級玩家下場競爭,買方不僅在價格上有了議價空間,在供應鏈交付週期上也多了一道保險。
我們認為,思科這一步切得很準,直接打在超大規模叢集的兩個死穴上:連線規模和能耗。最高能帶 32000 張卡、降低 40% 功耗,這兩個指標完全是照著頭部雲廠商最頭疼的成本模型來設計的。
但隱患依然存在。AI 叢集通訊並非單純拼硬體交換頻寬,更考驗整個底層軟體協議棧的成熟度和低丟包表現。面對輝達自家深耕多年的 InfiniBand 生態以及博通成熟的乙太網路網路生態,思科要把五家巨頭的測試轉化為實打實的長期採購訂單,硬仗才剛剛開始。
來源 (1)
- techtimes.com(在新分頁開啟)原文techtimes.com