Google 全面升級 Vertex AI：引入 Claude 2 與 Llama 2，自研模型上下文翻倍

打不過就拉進自己的後院

Google Cloud 這次在 Cloud Next 大會上對 Vertex AI 的升級，態度非常務實：自家模型在趕工，但絕不能讓企業客戶跑去別的雲。

先看自研部分的賬面更新。大語言模型 PaLM 2 的上下文視窗被拉到了 32,000 token，摺合大概兩萬五千詞或 80 頁文件。雖然離 Anthropic 家 Claude 2 的 10 萬 token 還有距離，但 Vertex AI 產品負責人 Nenshad Bardoliwalla 講得很直白：32,000 是算力成本、微調靈活性和推理價格平衡後的選擇。

另外兩款垂直模型也動了手術。程式碼模型 Codey 在主要支援語言裡的生成質量號稱提升了 25%，影像模型 Imagen 則上線了 Style Tuning，企業只要給 10 張參考圖，就能讓模型按照自己的品牌視覺風格出圖。

更有意思的是 Model Garden。Google 不再只推自己的全家桶，而是把 Meta 剛出的開源模型 Llama 2、阿布扎比 TII 的 Falcon，甚至競爭對手 Anthropic 的 Claude 2 直接請了進來。想要超長上下文？用 Claude 2 好了，只要算力跑在 Google Cloud 上就行。

裝上插頭和嘴巴，讓模型去打工

光有模型引數解決不了業務問題，Google 這次給 Vertex AI 補齊了動手辦事的工具，也就是它們版本的外掛系統。

新增的 Extensions 和資料聯結器分工很明確。資料聯結器以只讀許可權去對接 Salesforce、Jira 和 Confluence 這類企業知識庫；Extensions 則給模型連上了實操能力，能調取 Redis、MongoDB、DataStax 或郵箱與 CRM，替使用者完成真正的業務操作。

另外，面向企業做搜尋和對話的兩款工具 Vertex AI Search 和 Vertex AI Conversation 也結束測試正式可用。這次它們補齊了多輪對話搜尋和自動摘要能力，不用每次查東西都從頭開新話題。

在 Vertex AI Conversation 裡，Google 還放出了一個名叫 Playbook 的預覽功能。開發者不需要寫複雜的控制程式碼，只要用大白話給機器人立人設、定目標、分步驟，再配上兩個標準示範，就能指揮 AI 完成訂餐、銀行客服這種流程型任務。為了防翻車，平臺還加入了 Grounding 工具，強制模型在回答時引用企業內部權威來源，每單 API 呼叫也都會跑一遍違規和毒性檢測。

為什麼重要

我們認為，Google 這次把 Vertex AI 變成多模型超市，是一次非常聰明的認慫式進擊。相比之前只捧自家的 PaLM，如今它把主要競爭對手的模型全塞進自己的平臺，擺明了是衝著亞馬遜 AWS 的 Bedrock 去的。

對企業和開發者來說，現在是個不錯的進場節點。你不需要在不同的雲服務商之間反覆橫跳，在同一個控制台裡就能用 Google 的許可權體系、安全合規工具和 Ray 分散式框架，去調配 Llama 2、Claude 2 或 PaLM 2，搭建內部知識庫的門檻被拉低了不少。

但隱患也很刺眼。面對大模型訓練資料的版權爭議，Google 強調內部做過資料審查，卻像大多數廠商一樣沒有給被抓取資料的普通創作者任何退出機制。更麻煩的是，當企業用這些模型生成了內容，這批資產在法律上到底歸誰、受不受版權保護，Google 並沒有給出能讓人安心的承諾。法律邊界沒有理清之前，企業拿它做做內部客服可以，真要放到核心創作流程裡還是得掂量掂量。