xAI 釋出 Grok-1.5：支援 12.8 萬上下文，推理與程式設計大幅提升

兩週前剛把去年底的 Grok-1 開源出來，馬斯克的 xAI 就端出了下一代模型 Grok-1.5。

這次更新最直接的變化有兩個：一個是推理和算術能力大幅補課，另一個是把上下文視窗一口氣拉長到了 128K tokens，相當於此前容量的 16 倍。

按照官方公佈的安排，Grok-1.5 會在未來幾天內先推送給 𝕏 平臺上的早期測試人員和現有的 Grok 使用者，隨後再逐步向更多人開放。

惡補數學和程式碼，順便把記性翻了 16 倍

如果說 Grok-1 當時給人的印象還停留在嘴碎但幹活一般，Grok-1.5 拿出來的跑分明顯是在往主流大模型的第一梯隊靠攏。

在考察高難度數學競賽題的 MATH 基準上，Grok-1.5 拿到了 50.6% 的得分，相比 Grok-1 的 23.9% 翻了一倍多。在小學數學級別的 GSM8K 上，它的成績也從 62.9% 爬到了 90%。

寫程式碼的能力同樣漲了不少，考察程式碼生成的 HumanEval 基準得分達到了 74.1%，高於 Grok-1 的 63.2%。官方測試表格里，這一項甚至超過了 Claude 3 Sonnet 的 73%、Gemini Pro 1.5 的 71.9%，以及去年 3 月版 GPT-4 的 67%。而在綜合知識測試 MMLU 上，它拿到了 81.3%，與 Mistral Large 基本打平，但還是落後於 Claude 3 Opus 的 86.8% 和 GPT-4 的 86.4%。

除了變聰明，它的胃口也變大了。128K 的上下文視窗讓它可以一口氣吞下更長的長文和複雜提示詞，官方稱它在長文本大海撈針測試中實現了完美檢索。

有趣的是 xAI 這次還特意拆解了自己的工程底座。為了在大規模 GPU 叢集上穩住訓練，他們沒有照搬常見的方案，而是用 JAX、Rust 和 Kubernetes 自己搭了一套分散式訓練系統。這套系統能自動檢測並剔除出故障的計算節點，配合最佳化的檢查點儲存和資料載入機制，減少意外停機帶來的算力浪費。

為什麼重要

對於 𝕏 平臺上的付費使用者來說，Grok 終於不再只是一個用來調侃和搜熱點的玩具了。長上下文加上明顯提升的程式碼和邏輯能力，意味著你可以真正把它當成日常寫指令碼、提煉長文件的生產力工具去用。

從行業節奏來看，xAI 正在展現出極快的迭代壓迫感。兩週前才把五個月前的底牌全部開源，兩週後就拿出了追平甚至部分超越 GPT-4 早期水平的進階版，這給其他頭部梯隊的閉源與開源團隊都施加了不小的心理壓力。

我們認為，xAI 最聰明的地方在於把工程架構的基建當成了核心武器來打磨。大模型訓練到了千卡萬卡級別，最大的損耗往往不是演算法不夠好，而是硬體宕機帶來的頻繁中斷。他們選擇用 Rust 和 JAX 從底層掌控容錯和排程，看起來是為了後續更大規模模型的快速訓推鋪平道路。

不過隱患也同樣明顯。跑分裡用來作為參照的 GPT-4 依然是去年 3 月的版本，面對真正的前沿標杆 Claude 3 Opus，Grok-1.5 在關鍵綜合指標上依然存在肉眼可見的差距。它能不能真正在實際互動中立住腳，還要看這幾天首批測試者的真實上手反饋。