Google 发布 Gemini 1.5 Pro：吃下 100 万 token，效果比肩 1.0 Ultra

大家还在琢磨怎么把几页 PDF 塞进大模型时，Google 突然把整座图书馆的大门推开了。

就在 Gemini 1.0 Ultra 刚全面开放给开发者的一周后，Google 没有任何预告，直接端出了下一代模型 Gemini 1.5，首发版本是中等体量的 Gemini 1.5 Pro。

这次最吓人的不是跑分，而是上下文窗口。Gemini 1.0 原本只有 3.2 万 token，而 1.5 Pro 直接干到了 100 万 token，研究团队甚至在内部测通了 1000 万 token。

100 万 token 到底能吞下什么

100 万 token 听起来像个天文数字，换算成现实内容，大概是 1 小时的视频、11 小时的音频、70 多万字的小说，或者 3 万多行代码。

在底层架构上，Gemini 1.5 转向了混合专家模型，也就是大家常说的 MoE。模型平时不需要全员上阵，而是按输入内容挑选相关的神经元网络干活，既省算力，跑起来也更快。

因此，体量适中的 1.5 Pro 在 87% 的基准测试里超过了上一代的 1.0 Pro，综合能力直接咬平了体积庞大得多的 1.0 Ultra。

面对这么长的上下文，模型会不会看后头忘了前头。Google 做了经典的大海捞针测试，在长达 100 万 token 的数据堆里藏进一句话，1.5 Pro 找出来的成功率高达 99%。

在多模态实测里，官方塞给它一部 44 分钟的巴斯特·基顿默片，它能精准找到细微的情节节点；扔给它阿波罗 11 号登月任务整整 402 页的文字实录，它也能瞬间梳理出人物对话和事件细节。

扔一本语法书，现场学会一门语言

另一个让人头皮发麻的展示，是它的在上下文学习能力。

很多小众语言根本没有足够的数据来预训练模型。Google 拿全球母语者不足 200 人的卡拉曼语做实验，直接把一本该语言的语法手册、词典和几百个并列句塞进提示词，完全不做微调。

结果 1.5 Pro 现场学会了卡拉曼语，英卡互译的表现已经能追平一个阅读了同等教材的普通人类。这意味着，很多此前必须大费周章做微调、建向量库的专业领域，现在只要在 prompt 里堆足够厚的资料就能解决。

目前 Google 已经面向部分开发者和企业开放 100 万 token 的预览测试。正式发布时，1.5 Pro 默认提供 12.8 万 token，100 万的高配版本将按阶梯单独收费。

为什么重要

我们认为，Gemini 1.5 Pro 这一步把整个大模型应用生态的底层逻辑掀翻了。

过去一年里，为了解决模型记性差、窗口小的问题，整个行业都在狂卷 RAG 检索增强和向量数据库。开发者要花大量精力切分文本、做向量匹配、优化检索路径，最后拼装出来喂给模型。

如果大模型能在 100 万甚至 1000 万 token 级别做到 99% 的精准召回，大部分中小规模的 RAG 架构很可能会一夜之间失去存在的意义。直接把整套代码库、整年财务报表或几套产品手册扔进输入框，省时省力，还能保留完整的上下文因果关系。

对普通用户和开发者来说，值不值得现在冲上去试。当然值得，尤其如果你手里有超长的遗留系统代码，或者需要处理海量音视频素材，这几乎是目前市面上唯一的直推方案。

但隐患也很明确。超大窗口意味着恐怖的延迟和首字生成时间，在 Google 目前的测试中，超长文本的等待时间并不短；另一方面则是成本，即使 MoE 架构再省算力，处理百万 token 的推理账单也绝不会便宜。

看起来，Google 这次终于在工程架构上打出了一记让竞争对手难以招架的反击拳，压力现在完全转移到了 OpenAI 那边。