跳到正文
IFAI

行业动态

Groq 融资 6.4 亿美元:估值 28 亿,拉来 LeCun 当顾问叫板英伟达

首次发布 传播指数 42

AI 芯片初创公司 Groq 宣布完成 6.4 亿美元新融资,估值升至 28 亿美元。这笔资金将用于扩展其 LPU 推理芯片算力并上线更多模型。最让人意外的是,Meta 首席 AI 科学家 Yann LeCun 也出任了其技术顾问。

如果你在网页上试过 Groq 的推理演示,大概很难不被那种字词瞬间喷涌出来的速度吓一跳。在大家习惯了看着大模型一字一句往外蹦的时候,这家做专用芯片的初创公司用速度刷足了存在感。

Groq 宣布完成 6.4 亿美元的新一轮融资,由 Blackrock 领投,Neuberger Berman、Type One Ventures、Cisco、KDDI 以及三星催化剂基金等跟投。这笔资金让 Groq 的总融资金额超过 10 亿美元,估值直接攀升到 28 亿美元,比 2021 年上一轮融资时的 10 亿美元翻了一倍多。据报道,Groq 原本只想按 25 亿美元估值融 3 亿美元,最终拿到的钱和估值都超出了预期。

杨立昆站台,前英特尔高管掌舵运营

除了巨额资金,Groq 还拉来了重量级人马。Meta 首席 AI 科学家 Yann LeCun 出任技术顾问,鉴于 Meta 自己也在研发 AI 芯片,这一站台颇让人意外。同时,前英特尔代工业务负责人、前惠普首席信息官 Stuart Pann 正式加入 Groq 出任首席运营官。

Groq 的底气来自它所谓的语言处理单元 LPU。创始人兼首席执行官 Jonathan Ross 是当年在 Google 参与发明 TPU 的核心人物。Groq 声称其 LPU 在运行类似 ChatGPT 和 GPT-4o 架构的模型时,速度是传统处理器的 10 倍,能耗只有十分之一。

这套硬件正在快速吸引开发者。Groq 旗下的 GroqCloud 平台托管了 Meta 的 Llama 3.1、Google 的 Gemma、Mistral 的 Mixtral 以及 OpenAI 的 Whisper 等开源模型。截至 7 月,GroqCloud 上的开发者数量已经突破 35.6 万人。Stuart Pann 透露,按他们的估算,财富 100 强企业中超过 75% 都有团队在平台上测试或使用。

离开云端游乐场,砸钱铺进机房

单靠给开发者提供免费或廉价的 API 算力很难撑起百亿赛道的想象力,Groq 正在全力向企业、政府和数据中心实体渗透。今年 3 月,Groq 收购了企业 AI 方案商 Definitive Intelligence 并组建 Groq Systems,专门服务想把 LPU 塞进自建数据中心的机构。

具体的落地项目已经在铺开。Groq 联手政府 IT 承包商 Carahsoft 切入公共部门采购;与欧洲企业 Earth Wind & Power 签署意向书,计划在挪威的数据中心部署数万颗芯片;在中东,Groq 正在与沙特阿美旗下的 Aramco Digital 合作建设未来的算力中心。

为了摆脱早期芯片的制程劣势,Groq 去年已与三星代工签约,准备生产 4nm 制程的新一代 LPU,替代第一代的 13nm 产品。公司给出的时间表很激进:计划在 2025 年第一季度末之前在市场上部署超过 108,000 颗 LPU。

为什么重要

对开发者和企业来说,Groq 证明了开源大模型完全可以跑出商用级的低延迟。如果你在做语音实时交互、智能客服或代码实时补全这类对响应速度极其敏感的产品,GroqCloud 是目前最值得上手的推理基础设施之一。它的门槛远低于自建英伟达集群,但隐患在于其静态内存架构对超长上下文或多模态大模型的适配成本很高,一旦模型结构突变,专用架构很容易陷入被动。

对整个行业而言,生成式 AI 的重心正在从烧钱训练向大规模推理转移。英伟达虽然拿下了 70% 到 95% 的市场份额,但巨头自研芯片和初创公司的围攻已经不可逆转。云厂商有自己的 Trainium 和 TPU,初创阵营里不仅有 Groq,还有融了 1.2 亿美元专攻 Transformer 的 Etched 以及 D-Matrix。

我们认为,Groq 聪明的地方在于它没有去死磕训练端,而是用极端的速度体验牢牢抓住了开源社区的眼球,再通过主权算力和政府订单把概念变现。但它的真正考验才刚刚开始。从实验室里演示几款开源模型,到管理十万颗芯片集群并保证企业级高可用,中间隔着巨大的工程鸿沟,尤其还要面对英伟达一年一更新架构的步步紧逼。

来源 (1)

  1. [1]
    techcrunch.com(在新标签页打开)原文techcrunch.com

话题追踪Groq 的扩张与基础设施建设

这个话题的历次新闻,最新的在上面。

  1. Groq 联手沙特阿美:建全球最大 AI 推理中心,首批部署 1.9 万张芯片
  2. Groq 融资 6.4 亿美元:估值 28 亿,拉来 LeCun 当顾问叫板英伟达本条

每日 AI 内容精选