Google 上線 Gemini 2.0 Flash-Lite:推理更強且大幅降價,開放 API
Google 宣佈 Gemini 2.0 Flash-Lite 正式在 Gemini API 上線,支援 Google AI Studio 生產環境及 Vertex AI 企業客戶。該模型推理與數學基準超越 1.5 Flash,支援 100 萬 token 上下文,輸入百萬 token 僅需 0.10 美元。

想要讓大模型看完整部電影,或者把幾萬條使用者報錯翻個底朝天,以前最大的攔路虎往往不是模型懂不懂,而是錢包吃不消、延遲等不起。
Google 在 2 月 25 日宣佈,旗下的輕量模型 Gemini 2.0 Flash-Lite 正式面向所有開發者開放商用。開發者現在可以在 Google AI Studio 的 Gemini API 中直接呼叫,Vertex AI 上的企業客戶也能同步使用。
便宜 33%,小模型也吃得下長文本
這次更新最直接的殺手鐧,是成本和效能的重新平衡。
官方資料顯示,Gemini 2.0 Flash-Lite 在推理、多模態、數學計算和事實準確度這幾個硬指標上,已經全面超過了上一代的 1.5 Flash。對很多不需要頂級推理能力的日常任務來說,上一代的主力模型基本可以退休了。
針對超過 128K token 的長提示詞,Google 這次給出了更簡化的定價策略。而全血版的 Gemini 2.0 Flash 在效能上超過了 1.5 Flash 和 1.5 Pro,輸入價格定在每 100 萬 token 只收 0.10 美元,這讓它的 100 萬 token 超長上下文視窗整體成本直接降了 33%。
語音信箱自己留,長影片一鍵切短片
模型降價提速之後,最先吃到紅利的是即時互動和大數據處理團隊。
做即時語音的 Daily 就把 2.0 Flash-Lite 接進了自己的開源框架 Pipecat 裡。做語音助手最怕首字延遲太長,說半天不搭理人,Daily 用它搞出了一個能自動識別對方是不是語音信箱、並且根據情況現場定製留信內容的 demo。
做 AI 產品監控的 Dawn 則拿 2.0 Flash 搞起了語義監控。以前工程團隊要在海量對話流水裡撈出使用者不滿或者隱性 Bug,往往要跑幾個小時;換上 2.0 Flash 之後,靠著更靠譜的結構化輸出和長文本能力,查詢時間壓到了 1 分鐘以內,賬單費用直降 90% 以上。
還有做影片剪輯的 Mosaic,他們搭建的多模態剪輯智慧體利用這套長上下文能力,讓使用者只敲一句提示詞,就能把長影片快速挑鏡頭剪成 YouTube Shorts,把以前按小時計的剪輯活縮減到了幾秒鐘。
為什麼重要
我們認為,Google 這次正式開放 2.0 Flash-Lite,打的是一場非常務實的陣地戰。
對開發者和獨立創作者來說,每百萬輸入 token 只要一毛錢的定價,意味著試錯門檻被砸到了地板上。特別是那些需要即時語音、高頻輪詢或者吞吐整段影片的應用,以前用旗艦模型跑一天就心驚肉跳,現在完全可以放心跑在線上生產環境。
從行業競爭來看,過去大模型廠商都在卷跑分榜單上的最高分,但眼下爭奪開發者的關鍵戰場已經變成了極致的推理速度和極致的低成本。Google 憑藉自研 TPU 晶片和基礎設施優勢,正在把長上下文的成本優勢轉化成護城河,這會直接逼著競爭對手在輕量級模型上繼續打價格戰。
不過看起來,雖然基準測試全面超越前代,但在複雜多步驟邏輯和極其微妙的情感把控上,輕量級模型依然有它的物理上限。如果你做的是高容錯率的即時篩選、音影片初剪和語義監控,現在絕對值得切過來;但如果要做深度邏輯推理,頂級的 Pro 級別模型暫時還不能省。
來源 (1)
- developers.googleblog.com(在新分頁開啟)原文developers.googleblog.com