跳到正文
IFAI

產業動態

Groq 融資 6.4 億美元:估值 28 億,拉來 LeCun 當顧問叫板輝達

首次發布 傳播指數 42

AI 晶片初創公司 Groq 宣佈完成 6.4 億美元新融資,估值升至 28 億美元。這筆資金將用於擴充套件其 LPU 推理晶片算力並上線更多模型。最讓人意外的是,Meta 首席 AI 科學家 Yann LeCun 也出任了其技術顧問。

如果你在網頁上試過 Groq 的推理演示,大概很難不被那種字詞瞬間噴湧出來的速度嚇一跳。在大家習慣了看著大模型一字一句往外蹦的時候,這家做專用晶片的初創公司用速度刷足了存在感。

Groq 宣佈完成 6.4 億美元的新一輪融資,由 Blackrock 領投,Neuberger Berman、Type One Ventures、Cisco、KDDI 以及三星催化劑基金等跟投。這筆資金讓 Groq 的總融資金額超過 10 億美元,估值直接攀升到 28 億美元,比 2021 年上一輪融資時的 10 億美元翻了一倍多。據報道,Groq 原本只想按 25 億美元估值融 3 億美元,最終拿到的錢和估值都超出了預期。

楊立昆站臺,前英特爾高管掌舵運營

除了鉅額資金,Groq 還拉來了重量級人馬。Meta 首席 AI 科學家 Yann LeCun 出任技術顧問,鑑於 Meta 自己也在研發 AI 晶片,這一站臺頗讓人意外。同時,前英特爾代工業務負責人、前惠普資訊長 Stuart Pann 正式加入 Groq 出任營運長。

Groq 的底氣來自它所謂的語言處理單元 LPU。創始人兼執行長 Jonathan Ross 是當年在 Google 參與發明 TPU 的核心人物。Groq 聲稱其 LPU 在執行類似 ChatGPT 和 GPT-4o 架構的模型時,速度是傳統處理器的 10 倍,能耗只有十分之一。

這套硬體正在快速吸引開發者。Groq 旗下的 GroqCloud 平臺託管了 Meta 的 Llama 3.1、Google 的 Gemma、Mistral 的 Mixtral 以及 OpenAI 的 Whisper 等開源模型。截至 7 月,GroqCloud 上的開發者數量已經突破 35.6 萬人。Stuart Pann 透露,按他們的估算,財富 100 強企業中超過 75% 都有團隊在平臺上測試或使用。

離開雲端遊樂場,砸錢鋪進機房

單靠給開發者提供免費或廉價的 API 算力很難撐起百億賽道的想像力,Groq 正在全力向企業、政府和資料中心實體滲透。今年 3 月,Groq 收購了企業 AI 方案商 Definitive Intelligence 並組建 Groq Systems,專門服務想把 LPU 塞進自建資料中心的機構。

具體的落地專案已經在鋪開。Groq 聯手政府 IT 承包商 Carahsoft 切入公共部門採購;與歐洲企業 Earth Wind & Power 簽署意向書,計劃在挪威的資料中心部署數萬顆晶片;在中東,Groq 正在與沙烏地阿美旗下的 Aramco Digital 合作建設未來的算力中心。

為了擺脫早期晶片的製程劣勢,Groq 去年已與三星代工簽約,準備生產 4nm 製程的新一代 LPU,替代第一代的 13nm 產品。公司給出的時間表很激進:計劃在 2025 年第一季度末之前在市場上部署超過 108,000 顆 LPU。

為什麼重要

對開發者和企業來說,Groq 證明了開源大模型完全可以跑出商用級的低延遲。如果你在做語音即時互動、智慧客服或程式碼即時補全這類對響應速度極其敏感的產品,GroqCloud 是目前最值得上手的推理基礎設施之一。它的門檻遠低於自建輝達叢集,但隱患在於其靜態記憶體架構對超長上下文或多模態大模型的適配成本很高,一旦模型結構突變,專用架構很容易陷入被動。

對整個行業而言,生成式 AI 的重心正在從燒錢訓練向大規模推理轉移。輝達雖然拿下了 70% 到 95% 的市場份額,但巨頭自研晶片和初創公司的圍攻已經不可逆轉。雲廠商有自己的 Trainium 和 TPU,初創陣營裡不僅有 Groq,還有融了 1.2 億美元專攻 Transformer 的 Etched 以及 D-Matrix。

我們認為,Groq 聰明的地方在於它沒有去死磕訓練端,而是用極端的速度體驗牢牢抓住了開源社群的眼球,再通過主權算力和政府訂單把概念變現。但它的真正考驗才剛剛開始。從實驗室裡演示幾款開源模型,到管理十萬顆晶片叢集並保證企業級高可用,中間隔著巨大的工程鴻溝,尤其還要面對輝達一年一更新架構的步步緊逼。

來源 (1)

  1. [1]
    techcrunch.com(在新分頁開啟)原文techcrunch.com

話題追蹤Groq 的擴張與基礎設施建設

這個話題的歷次新聞,最新的在上面。

  1. Groq 聯手沙烏地阿美:建全球最大 AI 推理中心,首批部署 1.9 萬張晶片
  2. Groq 融資 6.4 億美元:估值 28 億,拉來 LeCun 當顧問叫板輝達本則

每日 AI 內容精選