Nvidia 发布 Groq 3 推理芯片:每秒 1500 token,专为多智能体而生
Nvidia 在 GTC 2026 发布 Groq 3 LPU 芯片及配套的 Groq 3 LPX 机架。这是其耗资 200 亿美元技术授权后的首款成果,单机架集成 256 颗 LPU,与 Vera Rubin GPU 配合可将每兆瓦吞吐量提升 35 倍,目标以每秒 1500 token 专攻多智能体协同。
Nvidia 在 GTC 2026 发布 Groq 3 LPU 芯片及配套的 Groq 3 LPX 机架。这是其耗资 200 亿美元技术授权后的首款成果,单机架集成 256 颗 LPU,与 Vera Rubin GPU 配合可将每兆瓦吞吐量提升 35 倍,目标以每秒 1500 token 专攻多智能体协同。
Groq 宣布与 Nvidia 签署非独家推理技术许可协议。Groq 创始人 Jonathan Ross 及总裁 Sunny Madra 等成员将加入 Nvidia 推进该技术的落地与扩展;Groq 仍作为独立公司运营,由 Simon Edwards 接任 CEO,旗下 GroqCloud 保持正常运转。
Hugging Face 宣布将 Groq 接入其推理服务商生态。开发者现在可以直接在 Hugging Face 模型页面或通过 Python、JS SDK 调用 Groq 的 LPU 芯片,高速运行 Llama 4、Qwen 等开源模型,支持直接通过 HF 账户扣费或自填 Groq API Key。
据 VentureBeat 报道,AI 电话客服公司 Phonely 联手 Maitai 与芯片厂商 Groq,利用零延迟 LoRA 热切换技术大幅压低响应延迟。其语音智能体首 token 延迟降至 176 毫秒,准确率跃升至 99.2%,超七成致电者分不清是人是 AI,已有客户本月借此替代了 350 名人工客服。
Groq 与 PlayAI 宣布达成合作,将语音模型 Dialog 部署至 GroqCloud 平台。Dialog 引入自适应语音语境技术,能结合上下文调整语气情绪,且首发支持英语与阿拉伯语。得益于 Groq 的 LPU 芯片,生成速度达每秒 140 字符,比 GPU 快约 60%。
Groq 宣布正式向所有开发者开放 Developer Tier,无需排队即可直接升级。新层级提供更高的速率限制、全球支付结算支持,以及弹性与批处理功能。对于需要高并发极速推理的团队来说,扩容门槛被进一步打通。
芯片初创公司 Groq 宣布与沙特阿美合作,在沙特建立大型 AI 推理中心。项目由阿美出资数亿美元,初期部署 1.9 万张 LPU,预计今年底上线,未来计划扩至 20 万张。沙特希望借此摆脱对石油的依赖,打造辐射中东和印度的算力中心。
AI 芯片初创公司 Groq 宣布完成 6.4 亿美元新融资,估值升至 28 亿美元。这笔资金将用于扩展其 LPU 推理芯片算力并上线更多模型。最让人意外的是,Meta 首席 AI 科学家 Yann LeCun 也出任了其技术顾问。
AI 推理芯片创企 Groq 宣布收购数据分析初创公司 Definitive Intelligence,金额未披露。对方此前协助搭档构建了按需调用 LPU 芯片的 GroqCloud,其创始人 Sunny Madra 将统领该业务,并协助设立面向政企交付的 Groq Systems 部门。
AI 芯片公司 Groq 研发的 LPU 芯片走红网络。根据第三方测试,Groq 运行大语言模型可达每秒 247 个 Token,比微软云端快了 13 倍。最值得关注的是,这种超低延迟让实时语音对话成为可能,不过其扩展能力仍有待检验。