Groq 收購初創公司 Definitive Intelligence：全力擴建 GroqCloud

如果你最近在社交網路上見過那個打字像瀑布一樣的 AI 生成速度演示，大機率就是 Groq 跑出來的。可對開發者來說，實驗室裡的晶片跑得再快，如果不能在雲端隨調隨用，那就只能算是個好看的玩具。

做 AI 推理晶片的明星初創公司 Groq 宣佈收購了資料分析初創公司 Definitive Intelligence，收購金額沒有對外公開。這次收購最直接的目的，就是為了把自家的雲平臺 GroqCloud 做大，讓更多人能隨時呼叫他們的 LPU 晶片算力。

搞定了晶片速度，現在補齊雲端入口

Groq 這家公司來頭不小，CEO Jonathan Ross 之前在 Google 發明了 TPU。公司目前融資已經超過 3.6 億美元，大部分資金來自 2021 年初由 Tiger Global 和 D1 Capital 領投的 C 輪融資。

他們的招牌產品是叫作 LPU 的推理晶片，專門用來跑訓練好的大語言模型。在去年 11 月的基準測試裡，Groq 的 LPU 執行 Meta 的 Llama 2 70B 模型時重新整理了推理速度記錄，官方宣稱推理速度最高能比競品快 10 倍。

它的底層邏輯挺特別。每個 LPU 包含被稱為 TSP 的核心，每個核心自帶大約 230 MB 的記憶體。這些核心通過片上網路連在一起，晶片能清楚知道資料在不同核心之間傳遞需要多少時間，大模型可以藉此挑出最快的資料路線來加速計算。

但硬體再強，也得有軟體和雲服務來承接。這就是為什麼 Groq 要上線 GroqCloud，讓開發者能在上面熟悉自家的晶片架構，直接開發適配的應用，平臺裡也配了一套幫助上手的學習資源。

把外包伙伴買下來，順便拆出新業務

被收購的 Definitive Intelligence 位於加州帕洛阿爾托，之前融過 1000 多萬美元。這家公司原本做的是讓使用者用自然語言查資料和做資料視覺化的 AI 應用。

有意思的是，Groq 透露其實在此次收購之前，Definitive Intelligence 就已經在幫他們搭建 GroqCloud 了。這次與其說是買技術，不如說是把已經磨合好的建站主力團隊直接收編。

收購完成後，Definitive Intelligence 的聯合創始人兼 CEO Sunny Madra 將加入 Groq，負責掌管 GroqCloud 業務部門。他接手後的頭等大事，就是給平臺擴容並吸引更多開發者。

除了雲服務，Groq 還打算借這次整合成立第二個部門 Groq Systems。這個新部門專門瞄準政府機構等對安全性要求高的大組織，幫他們在自己的環境裡部署部署 LPU 硬體。

為什麼重要

對於想要做即時語音助手、高頻互動 Agent 的開發者來說，推理延遲幾乎是致命傷。Groq 開放 GroqCloud 並全力擴容，意味著開發者不用自己去採購高門檻的硬體，點幾下滑鼠就能試用這種極速推理，門檻降了一大截。

在行業競爭上，輝達的真正護城河其實不是單純的算力，而是極其成熟的 CUDA 生態和雲端部署生態。硬體初創公司光拼晶片效能很難突圍，Groq 這步棋走得非常清醒，哪怕晶片跑得再快，只要雲端 API 不好用、開發者生態跟不上，就隨時可能被輝達拖死。

我們認為，Groq 直接收購已有合作經驗的軟體團隊，是個很討巧的補短板方式。晶片團隊往往帶著深厚的硬體基因，最容易缺的就是開發者產品體驗和雲服務運營經驗。

不過隱患依然存在。LPU 的單核記憶體只有 230 MB 左右，為了跑大模型需要大量晶片互聯，在大規模併發和多租戶環境下，這套架構的雲端服務成本和供貨能力到底能不能頂住激增的流量，看起來還需要時間來檢驗。