Nvidia 釋出 Groq 3 推理晶片:每秒 1500 token,專為多智慧體而生
Nvidia 在 GTC 2026 釋出 Groq 3 LPU 晶片及配套的 Groq 3 LPX 機架。這是其耗資 200 億美元技術授權後的首款成果,單機架整合 256 顆 LPU,與 Vera Rubin GPU 配合可將每兆瓦吞吐量提升 35 倍,目標以每秒 1500 token 專攻多智慧體協同。
Nvidia 在 GTC 2026 釋出 Groq 3 LPU 晶片及配套的 Groq 3 LPX 機架。這是其耗資 200 億美元技術授權後的首款成果,單機架整合 256 顆 LPU,與 Vera Rubin GPU 配合可將每兆瓦吞吐量提升 35 倍,目標以每秒 1500 token 專攻多智慧體協同。
Groq 宣佈與 Nvidia 簽署非獨家推理技術許可協議。Groq 創始人 Jonathan Ross 及總裁 Sunny Madra 等成員將加入 Nvidia 推進該技術的落地與擴充套件;Groq 仍作為獨立公司運營,由 Simon Edwards 接任 CEO,旗下 GroqCloud 保持正常運轉。
Hugging Face 宣佈將 Groq 接入其推理服務商生態。開發者現在可以直接在 Hugging Face 模型頁面或通過 Python、JS SDK 呼叫 Groq 的 LPU 晶片,高速執行 Llama 4、Qwen 等開源模型,支援直接通過 HF 賬戶扣費或自填 Groq API Key。
據 VentureBeat 報道,AI 電話客服公司 Phonely 聯手 Maitai 與晶片廠商 Groq,利用零延遲 LoRA 熱切換技術大幅壓低響應延遲。其語音智慧體首 token 延遲降至 176 毫秒,準確率躍升至 99.2%,超七成致電者分不清是人是 AI,已有客戶本月藉此替代了 350 名人工客服。
Groq 與 PlayAI 宣佈達成合作,將語音模型 Dialog 部署至 GroqCloud 平臺。Dialog 引入自適應語音語境技術,能結合上下文調整語氣情緒,且首發支援英語與阿拉伯語。得益於 Groq 的 LPU 晶片,生成速度達每秒 140 字元,比 GPU 快約 60%。
Groq 宣佈正式向所有開發者開放 Developer Tier,無需排隊即可直接升級。新層級提供更高的速率限制、全球支付結算支援,以及彈性與批處理功能。對於需要高併發極速推理的團隊來說,擴容門檻被進一步打通。
晶片初創公司 Groq 宣佈與沙烏地阿美合作,在沙特建立大型 AI 推理中心。專案由阿美出資數億美元,初期部署 1.9 萬張 LPU,預計今年底上線,未來計劃擴至 20 萬張。沙特希望藉此擺脫對石油的依賴,打造輻射中東和印度的算力中心。
AI 晶片初創公司 Groq 宣佈完成 6.4 億美元新融資,估值升至 28 億美元。這筆資金將用於擴充套件其 LPU 推理晶片算力並上線更多模型。最讓人意外的是,Meta 首席 AI 科學家 Yann LeCun 也出任了其技術顧問。
AI 推理晶片創企 Groq 宣佈收購資料分析初創公司 Definitive Intelligence,金額未披露。對方此前協助搭檔構建了按需呼叫 LPU 晶片的 GroqCloud,其創始人 Sunny Madra 將統領該業務,並協助設立面向政企交付的 Groq Systems 部門。
AI 晶片公司 Groq 研發的 LPU 晶片走紅網路。根據第三方測試,Groq 執行大語言模型可達每秒 247 個 Token,比微軟雲端快了 13 倍。最值得關注的是,這種超低延遲讓即時語音對話成為可能,不過其擴充套件能力仍有待檢驗。