Google 釋出 Gemini 1.5 Pro：吃下 100 萬 token，效果比肩 1.0 Ultra

大家還在琢磨怎麼把幾頁 PDF 塞進大模型時，Google 突然把整座圖書館的大門推開了。

就在 Gemini 1.0 Ultra 剛全面開放給開發者的一週後，Google 沒有任何預告，直接端出了下一代模型 Gemini 1.5，首發版本是中等體量的 Gemini 1.5 Pro。

這次最嚇人的不是跑分，而是上下文視窗。Gemini 1.0 原本只有 3.2 萬 token，而 1.5 Pro 直接幹到了 100 萬 token，研究團隊甚至在內部測通了 1000 萬 token。

100 萬 token 到底能吞下什麼

100 萬 token 聽起來像個天文數字，換算成現實內容，大概是 1 小時的影片、11 小時的音訊、70 多萬字的小說，或者 3 萬多行程式碼。

在底層架構上，Gemini 1.5 轉向了混合專家模型，也就是大家常說的 MoE。模型平時不需要全員上陣，而是按輸入內容挑選相關的神經元網路幹活，既省算力，跑起來也更快。

因此，體量適中的 1.5 Pro 在 87% 的基準測試裡超過了上一代的 1.0 Pro，綜合能力直接咬平了體積龐大得多的 1.0 Ultra。

面對這麼長的上下文，模型會不會看後頭忘了前頭。Google 做了經典的大海撈針測試，在長達 100 萬 token 的資料堆裡藏進一句話，1.5 Pro 找出來的成功率高達 99%。

在多模態實測裡，官方塞給它一部 44 分鐘的巴斯特·基頓默片，它能精準找到細微的情節節點；扔給它阿波羅 11 號登月任務整整 402 頁的文字實錄，它也能瞬間梳理出人物對話和事件細節。

扔一本語法書，現場學會一門語言

另一個讓人頭皮發麻的展示，是它的在上下文學習能力。

很多小眾語言根本沒有足夠的資料來預訓練模型。Google 拿全球母語者不足 200 人的卡拉曼語做實驗，直接把一本該語言的語法手冊、詞典和幾百個並列句塞進提示詞，完全不做微調。

結果 1.5 Pro 現場學會了卡拉曼語，英卡互譯的表現已經能追平一個閱讀了同等教材的普通人類。這意味著，很多此前必須大費周章做微調、建向量庫的專業領域，現在只要在 prompt 裡堆足夠厚的資料就能解決。

目前 Google 已經面向部分開發者和企業開放 100 萬 token 的預覽測試。正式釋出時，1.5 Pro 預設提供 12.8 萬 token，100 萬的高配版本將按階梯單獨收費。

為什麼重要

我們認為，Gemini 1.5 Pro 這一步把整個大模型應用生態的底層邏輯掀翻了。

過去一年裡，為了解決模型記性差、視窗小的問題，整個行業都在狂卷 RAG 檢索增強和向量資料庫。開發者要花大量精力切分文本、做向量匹配、最佳化檢索路徑，最後拼裝出來餵給模型。

如果大模型能在 100 萬甚至 1000 萬 token 級別做到 99% 的精準召回，大部分中小規模的 RAG 架構很可能會一夜之間失去存在的意義。直接把整套程式碼庫、整年財務報表或幾套產品手冊扔進輸入框，省時省力，還能保留完整的上下文因果關係。

對普通使用者和開發者來說，值不值得現在衝上去試。當然值得，尤其如果你手裡有超長的遺留系統程式碼，或者需要處理海量音影片素材，這幾乎是目前市面上唯一的直推方案。

但隱患也很明確。超大視窗意味著恐怖的延遲和首字生成時間，在 Google 目前的測試中，超長文本的等待時間並不短；另一方面則是成本，即使 MoE 架構再省算力，處理百萬 token 的推理賬單也絕不會便宜。

看起來，Google 這次終於在工程架構上打出了一記讓競爭對手難以招架的反擊拳，壓力現在完全轉移到了 OpenAI 那邊。