跳到正文
IFAI

大模型

Google 為 Gemini API 引入搜尋接地:可即時聯網檢索,每千次 35 美元

首次發布 傳播指數 51

Google 在 Google AI Studio 和 Gemini API 中上線搜尋接地功能。Gemini 1.5 模型能直接檢索最新網頁資訊,並返回帶來源連結與搜尋建議的回答。AI Studio 支援免費測試,API 付費呼叫為每千次 35 美元。

Google 為 Gemini API 引入搜尋接地:可即時聯網檢索,每千次 35 美元
圖:developers.googleblog.com

問大模型「今年溫網誰奪冠了」,在以前,你大機率會得到一句冰冷的「我的知識庫只更新到某年某月」,運氣差點還會被一本正經地胡說八道。

現在 Google 打算親手拆掉這堵知識牆。Google 在 Google AI Studio 和 Gemini API 裡上線了基於 Google 搜尋的接地功能(Grounding with Google Search),讓大模型回答即時問題時,可以直接去自家搜尋引擎裡搬救兵。

所有正式可用的 Gemini 1.5 版本都支援這項能力。開啟之後,模型不僅能給出最新的答案,還會在回覆裡附帶文中引用的來源連結,以及引導使用者進一步查證的搜尋建議。

查一次網,算一次錢

如果你想在 Google AI Studio 裡嚐鮮,操作很簡單。在右側的「Tools」面板裡直接勾選,就能免費測試。

要在自己的程式裡呼叫,只需要在 API 裡開啟 google_search_retrieval 工具。但在生產環境裡,聯網不是免費的午餐,在付費套餐中,每 1000 次接地查詢收費 35 美元。

即時搜網頁不僅花錢,還會增加等待時間。問題是,使用者問「幫我改段 Python 程式碼」的時候,根本沒必要聯網查一圈。

Google 給出的解法叫動態檢索(dynamic retrieval)。系統會先給使用者的提示詞打一個 0 到 1 之間的分值,越需要即時資訊的提示詞得分越高。

開發者可以自己設定觸發聯網的閾值,預設是 0.3。只有系統覺得這次提問確實需要查最新資料,才會真正調用搜索,幫你把不必要的開銷省下來。後續更新中,這項功能也面向歐洲地區全面開放。

為什麼重要

對於做智慧客服、行業資訊整理或者投研工具的開發者來說,這項功能最大的價值是省事。以前為了讓模型不說胡話,大家得自己寫爬蟲、接搜尋 API、做切片檢索,現在直接呼叫官方工具,連帶可點選的來源連結一併吐出,產品的可信度一下就上去了。

但每千次 35 美元的價格並不便宜,要是每個會話都無腦聯網,賬單很容易失控。我們認為,Google 這次最聰明的做法其實是做了動態檢索功能,把「要不要查網」做成了一個可配置的機率開關,給開發者留出了精細控成本的空間。

放眼整個行業,搜尋是 Google 最深的護城河。其他大模型廠商做聯網往往要接第三方索引或者搭複雜的多 Agent 架構,而 Google 把全球最強的搜尋引擎做成了自家 API 的原生底座,這會讓它在需要強事實性的企業級場景裡,築起對手很難輕易複製的壁壘。

來源 (1)

  1. [1]
    developers.googleblog.com(在新分頁開啟)原文developers.googleblog.com

每日 AI 內容精選