Hugging Face 接入 Groq:在 Hub 上直接调用极速 LPU 推理
Hugging Face 宣布将 Groq 接入其推理服务商生态。开发者现在可以直接在 Hugging Face 模型页面或通过 Python、JS SDK 调用 Groq 的 LPU 芯片,高速运行 Llama 4、Qwen 等开源模型,支持直接通过 HF 账户扣费或自填 Groq API Key。
Hugging Face 宣布将 Groq 接入其推理服务商生态。开发者现在可以直接在 Hugging Face 模型页面或通过 Python、JS SDK 调用 Groq 的 LPU 芯片,高速运行 Llama 4、Qwen 等开源模型,支持直接通过 HF 账户扣费或自填 Groq API Key。
芯片初创公司 Groq 宣布与沙特阿美合作,在沙特建立大型 AI 推理中心。项目由阿美出资数亿美元,初期部署 1.9 万张 LPU,预计今年底上线,未来计划扩至 20 万张。沙特希望借此摆脱对石油的依赖,打造辐射中东和印度的算力中心。
AI 芯片初创公司 Groq 宣布完成 6.4 亿美元新融资,估值升至 28 亿美元。这笔资金将用于扩展其 LPU 推理芯片算力并上线更多模型。最让人意外的是,Meta 首席 AI 科学家 Yann LeCun 也出任了其技术顾问。
AI 芯片公司 Groq 研发的 LPU 芯片走红网络。根据第三方测试,Groq 运行大语言模型可达每秒 247 个 Token,比微软云端快了 13 倍。最值得关注的是,这种超低延迟让实时语音对话成为可能,不过其扩展能力仍有待检验。