Inception 釋出擴散大模型 Mercury 3：每秒超千 token，對標 GPT-6 Luna

大家習慣了看大模型像打字機一樣一個詞一個詞往外蹦，但如果換一種思路，讓模型像畫圖一樣，一口氣把整段文字鋪出來再逐步精修呢？

AI 初創團隊 Inception 正式釋出了擴散語言模型 Mercury 3。官方給出的實測成績單挺嚇人：在輝達 GPU 上，它的生成速度衝到了每秒 1068 個 token，大概是 OpenAI 的 GPT-6 Luna 和 Anthropic 的 Claude Haiku 5.5 的 4 到 8 倍。

像畫畫一樣寫字，一口氣吐出一千詞

目前主流的自迴歸大語言模型，本質上都是「單字接龍」，下一個詞吐不出來，後面的就全得卡著。Mercury 3 走的是擴散機制，先粗略起草一批詞，再同步迭代打磨，所以生成吞吐能直接拉到一千詞以上。

引數規模上，Mercury 3 比初代的 Mercury 1 擴充了 40 倍以上，基準測試的智慧表現提升了 3 倍，上下文視窗也從 2.5 版本的 26 萬 token 擴充套件到了 100 萬 token。官方表示，模型的生成速度並沒有因為體量暴漲而變慢。

Inception 聯合創始人 Stefano Ermon 提到，擴散模型的擴充套件上限主要受限於算力和資料，並不存在根本性的演算法瓶頸，而且下一代模型已經在訓練中了。

不過在綜合基準測試中，Mercury 3 並不算完全碾壓。在適度推理難度的測試項裡，GPT-6 Luna 和 Claude Haiku 5.5 各自在一部分題目中依然處於領先位置。

先讓智慧體和語音助手告別卡頓

速度拉起來之後，最先受益的是那些對延遲容忍度極低的場景。TinyFish AI 在 50 個真實的 Mind2Web 網頁操作任務中測試，Mercury 3 完成了其中 50% 的任務，顯著高過 GPT-6.1-Sol，步數和消耗 token 差不多，但呼叫成本低很多。

做智慧眼鏡搜尋的 Octen AI 提到，搜尋本身只要 80 毫秒，以前系統瓶頸全卡在模型生成上。接入 Mercury 3 後，生成耗時中位數壓縮到了 0.9 秒，端到端完整響應縮短到了 2.2 秒。

線上教育產品 RevisionDojo 用它給學生批改作業，提示和釋義基本在 1 秒左右返回；客服平臺 Lorikeet 也拿它接管高合規要求的語音與聊天支援。

定價方面，Mercury 3 標準牌價是輸入每百萬 token 收 0.20 美元，輸出每百萬 token 收 0.70 美元。目前上線期打五折，輸入只要 0.10 美元，輸出 0.35 美元，快取 token 還能在輸入價基礎上再打一折。

為什麼重要

對於開發即時應用的團隊來說，Mercury 3 非常值得現在跑一組對比測試。如果你的產品涉及電話客服、即時口語外教或者多步驟的網頁操作智慧體，原本模型停頓兩三秒會讓使用者明顯出戲，換上千字吞吐的模型能直接把卡頓感抹平。而且它相容 OpenAI API 格式，在 OpenRouter、Baseten 和 Vercel 上都能即插即用，切換成本很低。

這說明行業對「極速推理」的爭奪已經徹底白熱化。OpenAI 在 9 月 29 日推出了 GPT-6 Astra Ultrafast，在 Codex 裡衝到 300 tokens/s，此前還簽下了 Cerebras 的 750 兆瓦算力協議，試圖通過定製晶片和系統最佳化來提速。而 Inception 走了一條更激進的路線：直接在底層演算法架構上掀桌子，用擴散模型來硬吃自迴歸。

我們認為，Inception 的切入點非常聰明，它不跟最頂級的巨無霸模型硬拼高難度數理邏輯，而是盯準輕量級模型最需要的速度痛點做文章。但隱患同樣明顯：擴散模型在極長鏈條的深層推理上是否容易翻車，業內還沒有充分驗證；另外真實業務中不僅看生成速度，網路建聯和工具呼叫的耗時同樣是大頭，單純文本吐得快並不代表整個工作流不會被別處卡死。