Cisco 推出 G200 网络芯片:专为 AI 超算打造,可连 3.2 万块 GPU
Cisco 推出专为 AI 超级计算机设计的 G200 和 G202 网络芯片,直接叫板博通和 Marvell。两款芯片性能较前代翻倍,最多可将 32,000 块 GPU 连接在一起,并降低最高 40% 的功耗。目前六大云服务商中已有五家进场测试。
现在所有人都在疯抢英伟达的 GPU,但很多人容易忽略一件事:当数千张甚至上万张显卡并联在一起训练大模型时,决定速度上限的往往不是单张卡的算力,而是卡与卡之间通信的网络通道。
面对这个瓶颈,网络设备巨头思科(Cisco)正式推出了专为 AI 超级计算机打造的网络芯片 G200 和 G202,直接向芯片巨头博通(Broadcom)和美满电子(Marvell)发起正面进攻。
把三万两千张显卡连成一台机器
随着 ChatGPT 等生成式 AI 爆火,底层训练集群的规模正在以夸张的速度膨胀。GPU 之间要是通信慢半拍,整套算力集群都得干等着。
思科给出的解法是新一代以太网交换芯片 G200 与 G202。思科 Fellow、前首席工程师 Rakesh Chopra 表示,这两款芯片有望成为市场上性能最强劲的网络芯片。
从纸面参数来看,这两款芯片的吞吐性能比上一代直接翻了一倍,单套网络架构最多能够支持连接 32000 张 GPU。
更关键的是功耗。思科表示,新芯片减少了集群对中间交换机节点的需求,大幅降低了传输延迟,同时最高能帮数据中心降低 40% 的网络功耗。在如今算力中心电网负载逼近极限的背景下,省下四成电量几乎就是实打实的真金白银。
云巨头已经进场验货
虽然思科没有直接点名,但他们透露,全球排名前六的云计算巨头里,已经有五家正在测试这两款芯片。放眼当下的云市场,排在前面的无非就是亚马逊 AWS、微软 Azure 和谷歌 Google Cloud 等几家巨头。
这番动作也暗合了思科当下的转型路径。在最近公布的财报中,思科的营收、Non-GAAP 净利润与现金流均刷新历史纪录,并上调了 2023 财年预期。
思科董事长兼 CEO 查克·罗宾斯(Chuck Robbins)明确提到,公司年度经常性收入(ARR)已接近 240 亿美元,软件订阅业务稳步增长。而未来长期增长的三大支柱之一,就是用网络基础设施全面切入生成式 AI 与云计算。
为什么重要
大模型军备竞赛打到现在,战火已经从单纯的买显卡蔓延到了网络通信架构。谁能降低集群延迟和掉线率,谁就能在万亿参数模型的训练上跑得更快。
对云服务商和自建大型算力的企业来说,思科入局最大的价值是打破垄断。过去在 AI 高性能网络芯片领域,博通等少数几家厂商几乎掌握了绝对话语权,多一个重量级玩家下场竞争,买方不仅在价格上有了议价空间,在供应链交付周期上也多了一道保险。
我们认为,思科这一步切得很准,直接打在超大规模集群的两个死穴上:连接规模和能耗。最高能带 32000 张卡、降低 40% 功耗,这两个指标完全是照着头部云厂商最头疼的成本模型来设计的。
但隐患依然存在。AI 集群通信并非单纯拼硬件交换带宽,更考验整个底层软件协议栈的成熟度和低丢包表现。面对英伟达自家深耕多年的 InfiniBand 生态以及博通成熟的以太网网络生态,思科要把五家巨头的测试转化为实打实的长期采购订单,硬仗才刚刚开始。
来源 (1)
- techtimes.com(在新标签页打开)原文techtimes.com