跳到正文
IFAI

大模型

Google 釋出 Gemini 3.1 Flash-Lite:首字提速 2.5 倍,百萬 token 僅 0.25 美元

首次發布 傳播指數 55

Google 推出輕量模型 Gemini 3.1 Flash-Lite。其首字響應速度比 2.5 Flash 快 2.5 倍,輸入定價僅每百萬 token 0.25 美元。該模型支援調節思考深度,專為高頻即時任務設計,現已在 Google AI Studio 和 Vertex AI 開放預覽。

Google 釋出 Gemini 3.1 Flash-Lite:首字提速 2.5 倍,百萬 token 僅 0.25 美元
圖:blog.google

做高頻業務的開發者,最怕的其實不是模型不夠聰明,而是錢包扛不住、響應轉圈圈。調大模型做內容稽核或海量翻譯,月底賬單能把人看哭;換便宜的小模型,又經常不聽指揮、指令遵循一塌糊塗。

Google 剛剛推出來的 Gemini 3.1 Flash-Lite,打的就是這個痛點。這是 Gemini 3 系列裡速度最快、成本最低的一款模型,現在已經在 Google AI Studio 的 Gemini API 和企業級平臺 Vertex AI 上開啟預覽。

速度翻倍,價格只要零頭

先看大家最關心的價格和響應表現。

3.1 Flash-Lite 的定價是每百萬輸入 token 0.25 美元,每百萬輸出 token 1.50 美元。作為對比,根據 Artificial Analysis 的基準測試,它的首字輸出時間比上一代 2.5 Flash 快了 2.5 倍,整體生成速度也提升了 45%。

跑分方面也沒有縮水。它在 Arena.ai 排行榜拿到了 1432 的 Elo 分數,在 GPQA Diamond 基準上得分為 86.9%,多模態評測 MMMU Pro 則跑到了 76.8%,不僅超過了同檔位的其他輕量模型,甚至甩開了上一代體量更大的 2.5 Flash。

思考程度能調節,早期客戶已進場

除了常規的跑分提升,Google 這次在 AI Studio 和 Vertex AI 裡給 3.1 Flash-Lite 標配了「思考等級」調節功能。也就是說,開發者可以根據具體任務自由控制模型到底要「琢磨」多久。

簡單的海量翻譯、內容稽核這種只求快和省錢的任務,就把思考量拉低;如果是生成 UI 介面、做儀表盤、跑複雜模擬或嚴格遵循長指令,就可以讓它多思考一會兒。

目前 Latitude、Cartwheel 和 Whering 等早期測試團隊已經把它用在實際業務裡。按照測試人員的反饋,它在處理複雜輸入時的精準度已經很接近大模型,而且指令遵循能力相當穩定。

為什麼重要

做 AI 應用的人都知道,絕大多數真實場景不需要模型去寫詩或證明數學猜想,而是需要它在毫秒級內把髒活累活幹完。3.1 Flash-Lite 把每百萬輸入 token 壓到 0.25 美元,同時首字延遲砍掉大半,這意味著像即時聊天助手、低延遲工作流和大規模資料清洗這類以前因為太貴或太卡而沒法上線的場景,現在都可以立刻拿去測試了。

在行業層面,這會讓輕量推理市場的內捲進一步加劇。各家大模型廠商都在拼旗艦智力,但真正走量、帶來穩定 API 收入的反而是這類又輕又快的小傢伙。Google 拿出 1432 的 Elo 分數,就是在逼對手跟進低價高質的輕量端產品。

我們認為,Google 最聰明的做法是把「思考等級」下放到輕量模型上,讓開發者自己去權衡延遲和推理深度,而不是粗暴地給一個固定配置。不過這也意味著開發者需要自己做更多調優工作,如何針對不同場景設定合理的思考層級,會是接下來用好它的核心門檻。

來源 (1)

  1. [1]
    blog.google(在新分頁開啟)原文blog.google

每日 AI 內容精選