Meta Llama 4 登陆 Vertex AI:免配 GPU,以托管 API 开箱即用
Google 宣布 Meta 的 Llama 4 正式作为全托管 API 在 Vertex AI 上线。开发者无需自行调配与维护 GPU 基础设施,签署许可后即可通过兼容 OpenAI 格式的接口直接调用 Scout 与 Maverick 模型。

以前想在生产环境里跑 Meta 的开源大模型,最头疼的往往不是代码,而是算力。你得自己去云厂商那里抢 GPU、配驱动、搭推理框架,模型跑起来还得盯着显存别爆了。
Google Cloud 宣布把 Meta 最新一代的 Llama 4 以模型即服务的方式放进了 Vertex AI,并且直接面向所有用户正式商用。一同正式上线的,还有 Llama 3.3 70B 的托管 API。
这意味着你不用再管底层服务器,调个 API 就能直接用上 Llama 4。
告别租卡,连 OpenAI 的 SDK 都能直接复用
这次在 Vertex AI 上线的 Llama 4 覆盖了 Meta 最新的两条产品线。一个是 Llama 4 Scout,它用了混合专家架构,在多模态任务上效率很高,官方代码里甚至给出了 17B 规模的指令微调版本;另一个是 Meta 专门用来攻坚复杂推理和图像理解的 Llama 4 Maverick,也是目前 Meta 旗下最聪明的一款。
对于开发者来说,最省心的地方在于零运维。你不需要预先租下昂贵的算力节点,Google Cloud 会在后台把 GPU 调度、依赖项安装和高可用运维全包了。
计费方式也变成了按调用量付费。你发起了多少次请求就付多少钱,不用再为闲置的显卡按小时掏冤枉钱。
使用方式也很接地气。只要在 Vertex AI 的 Model Garden 里点一下同意 Meta 的社区许可协议,拿到模型 ID,就能直接用上了。
有意思的是,Google 的这个托管端点直接兼容了标准的 ChatCompletion 接口。如果你平时习惯用 OpenAI 的 Python SDK,只需要把 base_url 改成 Google Cloud 的端点地址,配上 Google 的授权凭证,原先的代码几乎不用大改就能跑起来,连传图片做多模态识别也只要传个存储地址就行。
为什么重要
我们认为,Google 把 Llama 4 做成托管 API 卖,是一门非常务实的生意。
对开发者和中小团队来说,这大幅降低了用上顶级开源模型的门槛。以前很多人想用 Llama,但一算运维成本和保活 GPU 的账单就打了退堂鼓。现在只要改几行调用代码,就能拿它做复杂视觉理解或智能体推理,完全值得在日常业务里顺手测一测。当然,限制依然存在,比如你的调用频次受制于每分钟请求数等配额限制,而且前提是必须签署 Meta 的社区协议。
对行业来说,这也是云厂商竞争格局的一个缩影。Google Cloud 并没有死守自家的 Gemini,而是把自家算力平台打造成一个开放的大卖场。只要开发者愿意把业务和数据留在 Google Cloud 上,用 Gemini 还是用 Meta 的 Llama 4,对 Google 来说都是赚钱的算力买卖。
这种做法很聪明,但也给对手施加了不小的压力。微软 Azure 早就深度绑定了 OpenAI 和 Meta,现在 Google 也把开源主力模型拉到了同样的易用度上。当基础模型本身的差距被慢慢抹平,云平台谁家 API 更好接、计费更透明,就成了留住开发者的胜负手。
来源 (1)
- developers.googleblog.com(在新标签页打开)原文developers.googleblog.com