Hugging Face 接入 Groq:在 Hub 上直接呼叫極速 LPU 推理
Hugging Face 宣佈將 Groq 接入其推理服務商生態。開發者現在可以直接在 Hugging Face 模型頁面或通過 Python、JS SDK 呼叫 Groq 的 LPU 晶片,高速執行 Llama 4、Qwen 等開源模型,支援直接通過 HF 賬戶扣費或自填 Groq API Key。
Hugging Face 宣佈將 Groq 接入其推理服務商生態。開發者現在可以直接在 Hugging Face 模型頁面或通過 Python、JS SDK 呼叫 Groq 的 LPU 晶片,高速執行 Llama 4、Qwen 等開源模型,支援直接通過 HF 賬戶扣費或自填 Groq API Key。
晶片初創公司 Groq 宣佈與沙烏地阿美合作,在沙特建立大型 AI 推理中心。專案由阿美出資數億美元,初期部署 1.9 萬張 LPU,預計今年底上線,未來計劃擴至 20 萬張。沙特希望藉此擺脫對石油的依賴,打造輻射中東和印度的算力中心。
AI 晶片初創公司 Groq 宣佈完成 6.4 億美元新融資,估值升至 28 億美元。這筆資金將用於擴充套件其 LPU 推理晶片算力並上線更多模型。最讓人意外的是,Meta 首席 AI 科學家 Yann LeCun 也出任了其技術顧問。
AI 晶片公司 Groq 研發的 LPU 晶片走紅網路。根據第三方測試,Groq 執行大語言模型可達每秒 247 個 Token,比微軟雲端快了 13 倍。最值得關注的是,這種超低延遲讓即時語音對話成為可能,不過其擴充套件能力仍有待檢驗。