Google 全面升级 Vertex AI：引入 Claude 2 与 Llama 2，自研模型上下文翻倍

打不过就拉进自己的后院

Google Cloud 这次在 Cloud Next 大会上对 Vertex AI 的升级，态度非常务实：自家模型在赶工，但绝不能让企业客户跑去别的云。

先看自研部分的账面更新。大语言模型 PaLM 2 的上下文窗口被拉到了 32,000 token，折合大概两万五千词或 80 页文档。虽然离 Anthropic 家 Claude 2 的 10 万 token 还有距离，但 Vertex AI 产品负责人 Nenshad Bardoliwalla 讲得很直白：32,000 是算力成本、微调灵活性和推理价格平衡后的选择。

另外两款垂直模型也动了手术。代码模型 Codey 在主要支持语言里的生成质量号称提升了 25%，图像模型 Imagen 则上线了 Style Tuning，企业只要给 10 张参考图，就能让模型按照自己的品牌视觉风格出图。

更有意思的是 Model Garden。Google 不再只推自己的全家桶，而是把 Meta 刚出的开源模型 Llama 2、阿布扎比 TII 的 Falcon，甚至竞争对手 Anthropic 的 Claude 2 直接请了进来。想要超长上下文？用 Claude 2 好了，只要算力跑在 Google Cloud 上就行。

装上插头和嘴巴，让模型去打工

光有模型参数解决不了业务问题，Google 这次给 Vertex AI 补齐了动手办事的工具，也就是它们版本的插件系统。

新增的 Extensions 和数据连接器分工很明确。数据连接器以只读权限去对接 Salesforce、Jira 和 Confluence 这类企业知识库；Extensions 则给模型连上了实操能力，能调取 Redis、MongoDB、DataStax 或邮箱与 CRM，替用户完成真正的业务操作。

另外，面向企业做搜索和对话的两款工具 Vertex AI Search 和 Vertex AI Conversation 也结束测试正式可用。这次它们补齐了多轮对话搜索和自动摘要能力，不用每次查东西都从头开新话题。

在 Vertex AI Conversation 里，Google 还放出了一个名叫 Playbook 的预览功能。开发者不需要写复杂的控制代码，只要用大白话给机器人立人设、定目标、分步骤，再配上两个标准示范，就能指挥 AI 完成订餐、银行客服这种流程型任务。为了防翻车，平台还加入了 Grounding 工具，强制模型在回答时引用企业内部权威来源，每单 API 调用也都会跑一遍违规和毒性检测。

为什么重要

我们认为，Google 这次把 Vertex AI 变成多模型超市，是一次非常聪明的认怂式进击。相比之前只捧自家的 PaLM，如今它把主要竞争对手的模型全塞进自己的平台，摆明了是冲着亚马逊 AWS 的 Bedrock 去的。

对企业和开发者来说，现在是个不错的进场节点。你不需要在不同的云服务商之间反复横跳，在同一个控制台里就能用 Google 的权限体系、安全合规工具和 Ray 分布式框架，去调配 Llama 2、Claude 2 或 PaLM 2，搭建内部知识库的门槛被拉低了不少。

但隐患也很刺眼。面对大模型训练数据的版权争议，Google 强调内部做过数据审查，却像大多数厂商一样没有给被抓取数据的普通创作者任何退出机制。更麻烦的是，当企业用这些模型生成了内容，这批资产在法律上到底归谁、受不受版权保护，Google 并没有给出能让人安心的承诺。法律边界没有理清之前，企业拿它做做内部客服可以，真要放到核心创作流程里还是得掂量掂量。