xAI 发布 Grok-1.5：支持 12.8 万上下文，推理与编程大幅提升

两周前刚把去年底的 Grok-1 开源出来，马斯克的 xAI 就端出了下一代模型 Grok-1.5。

这次更新最直接的变化有两个：一个是推理和算术能力大幅补课，另一个是把上下文窗口一口气拉长到了 128K tokens，相当于此前容量的 16 倍。

按照官方公布的安排，Grok-1.5 会在未来几天内先推送给 𝕏 平台上的早期测试人员和现有的 Grok 用户，随后再逐步向更多人开放。

恶补数学和代码，顺便把记性翻了 16 倍

如果说 Grok-1 当时给人的印象还停留在嘴碎但干活一般，Grok-1.5 拿出来的跑分明显是在往主流大模型的第一梯队靠拢。

在考察高难度数学竞赛题的 MATH 基准上，Grok-1.5 拿到了 50.6% 的得分，相比 Grok-1 的 23.9% 翻了一倍多。在小学数学级别的 GSM8K 上，它的成绩也从 62.9% 爬到了 90%。

写代码的能力同样涨了不少，考察代码生成的 HumanEval 基准得分达到了 74.1%，高于 Grok-1 的 63.2%。官方测试表格里，这一项甚至超过了 Claude 3 Sonnet 的 73%、Gemini Pro 1.5 的 71.9%，以及去年 3 月版 GPT-4 的 67%。而在综合知识测试 MMLU 上，它拿到了 81.3%，与 Mistral Large 基本打平，但还是落后于 Claude 3 Opus 的 86.8% 和 GPT-4 的 86.4%。

除了变聪明，它的胃口也变大了。128K 的上下文窗口让它可以一口气吞下更长的长文和复杂提示词，官方称它在长文本大海捞针测试中实现了完美检索。

有趣的是 xAI 这次还特意拆解了自己的工程底座。为了在大规模 GPU 集群上稳住训练，他们没有照搬常见的方案，而是用 JAX、Rust 和 Kubernetes 自己搭了一套分布式训练系统。这套系统能自动检测并剔除出故障的计算节点，配合优化的检查点保存和数据加载机制，减少意外停机带来的算力浪费。

为什么重要

对于 𝕏 平台上的付费用户来说，Grok 终于不再只是一个用来调侃和搜热点的玩具了。长上下文加上明显提升的代码和逻辑能力，意味着你可以真正把它当成日常写脚本、提炼长文档的生产力工具去用。

从行业节奏来看，xAI 正在展现出极快的迭代压迫感。两周前才把五个月前的底牌全部开源，两周后就拿出了追平甚至部分超越 GPT-4 早期水平的进阶版，这给其他头部梯队的闭源与开源团队都施加了不小的心理压力。

我们认为，xAI 最聪明的地方在于把工程架构的基建当成了核心武器来打磨。大模型训练到了千卡万卡级别，最大的损耗往往不是算法不够好，而是硬件宕机带来的频繁中断。他们选择用 Rust 和 JAX 从底层掌控容错和调度，看起来是为了后续更大规模模型的快速训推铺平道路。

不过隐患也同样明显。跑分里用来作为参照的 GPT-4 依然是去年 3 月的版本，面对真正的前沿标杆 Claude 3 Opus，Grok-1.5 在关键综合指标上依然存在肉眼可见的差距。它能不能真正在实际交互中立住脚，还要看这几天首批测试者的真实上手反馈。