馬斯克透露 Grok 4.8：用 C/C++ 重寫推理棧，本週小範圍推送

馬斯克在社交平臺上透露，xAI 的新一代模型 Grok 4.8 已經完成預訓練，目前正處於強化學習階段，評估基準成績正在逐步爬升。

團隊計劃在本週晚些時候向部分 Grok Bot 使用者進行小範圍灰度測試，看看實際表現如何。

甩開現成框架，用 C/C++ 重寫底層

這版模型最大的變動不在表面，而是在底層工程架構上。

馬斯克表示，團隊徹底放棄了原有的 JAX 與 SGLang 框架，完全用 C/C++ 從頭重寫了整套強化學習和推理技術棧。雖然這耗費了不少額外時間，並且團隊還對監督微調資料進行了大量清洗，但成效明顯。

按照馬斯克的說法，Grok 4.8 與上一代 4.7「毫無相似之處」。他坦言新模型目前還不算驚豔，但底座這次總算打紮實了，未來有望演化成非常特別的產品。

為什麼重要

放棄成熟的開源推理生態，轉而用純 C/C++ 手寫底層，這很符合馬斯克一貫的硬核工程作風。

現有的 Python 推理框架雖然開發快、生態成熟，但在極限併發和超低延遲場景下難免有效能開銷。自己重寫推理棧，顯然是為了把算力和硬體效率壓榨到極致。

我們認為，這種底層大修雖然拖慢了釋出節奏，但對於拼推理速度和成本的前沿模型競爭來說，把底層地基打牢，後續模型迭代和規模化部署的上限才會更高。普通使用者本週晚些時候可以留意自己的 Grok Bot，看看這套新架構到底能帶來多大的體感差異。