跳到正文
IFAI

AI工具

NVIDIA 推出企业 AI 蓝图:打包代码与微服务,加速智能体落地

首次发布 传播指数 37

NVIDIA 推出 NVIDIA Blueprints,为企业提供可直接部署的生成式 AI 工作流模板。首发涵盖客服数字人、药物虚拟筛选和多模态 PDF 提取,包含参考代码、文档及 Helm chart。说白了,企业不用再从零拼凑组件,拿现有微服务就能快速跑通数据飞轮。

NVIDIA 推出企业 AI 蓝图:打包代码与微服务,加速智能体落地
图:blogs.nvidia.com

很多企业买了昂贵的 GPU,也下载了最新的开源大模型,但真要给业务搭一个好用的 AI 智能体时,往往卡在半路。如何把大模型、检索数据库、微服务和安全护栏串在一起,成了一道工程难题。

NVIDIA 拿出了他们的解决方案:推出 NVIDIA Blueprints(最初命名为 NIM Agent Blueprints)。说白了,这就是给企业开发者准备的生成式 AI 完整应用样板间,把从底层推理到业务落地的全套参考流程打包送上门。

给企业直接发样板间和施工图

搭企业级 AI 应用从来不是调个 API 那么简单。它涉及模型选型、检索增强生成(RAG)、微服务编排以及后续的模型迭代,步骤非常繁琐。

NVIDIA 这次推出的 Blueprints 不只是几段演示代码,而是一整套开箱即用的工作流。里面包含了基于 NVIDIA NIM 和合作伙伴微服务构建的示例应用、参考源码、定制说明文档,甚至连用于容器部署的 Helm chart 都配齐了。

开发者可以直接基于这些蓝图修改,支持调用的模型包括 Llama 3.1 405B、Google Gemma、Microsoft Phi、Mixtral 和 Nemotron 等主流开源底座。

首批上线的蓝图覆盖了三个具体的业务场景:用于客服的数字人交互、加速药物发现的生成式虚拟筛选,以及专门搞定复杂版面的多模态 PDF 数据提取 RAG 系统。

除了把应用跑起来,NVIDIA 还在推所谓的「生成式 AI 飞轮」。当用户和应用交互产生新数据后,企业可以通过 NeMo 和 NVIDIA AI Foundry 把数据反哺给模型进行微调,让定制的 NIM 微服务在业务运转中越用越聪明。

拉上一整张企业 IT 朋友圈

单靠 NVIDIA 自己卖软件显然不够,他们这次拉来了一整个企业级生态为蓝图铺路。

在业务软件方面,ServiceNow 已经把相关技术用在了自家的 Now Assist 解决方案中,正结合数字人蓝图开发客户服务功能。

在落地交付上,埃森哲、德勤、SoftServe、Quantiphi 和 WWT 等大型系统集成商负责把蓝图送到全球大企业里。开发和安全环节则接入了 LangChain、LlamaIndex、Dataiku、CrowdStrike 和 Datadog 等工具链。

底层的运行环境也没有设限。这些蓝图既能在戴尔、联想、HPE、思科的认证服务器上跑,也能部署在亚马逊云科技、微软 Azure、谷歌云和甲骨文云上。NVIDIA 还计划在此后按月更新蓝图,陆续补齐软件工程、零售导购和内容生成等场景。

为什么重要

我们认为,NVIDIA 这一步走得极其精明,它的目标是彻底吃透企业软件的上层预算。

以前企业买卡,算力装进机房后怎么发挥价值全看客户自己的工程团队造化,周期长、试错成本高。现在 NVIDIA 直接把行业应用的标准工作流定好,代码和部署模板双手奉上,相当于把开发门槛直接砍掉一大截。如果你是负责企业智能化落地的工程师,现在完全没必要从零造轮子,拿现成的多模态 RAG 蓝图搭 Demo 会快很多。

更关键的在于生态锁定。表面上看,NVIDIA 拥抱了各家开源大模型,甚至允许企业部署在任何云平台上;但仔细看就会发现,每个蓝图的核心粘合剂都是 NVIDIA 自己的 NIM 微服务、NeMo 和加速计算库。

看起来企业获得了跨平台自由,但实际上应用架构越依赖这套参考蓝图,底层对 NVIDIA 软硬件体系的依赖就越深。对 OpenAI 等模型厂商来说,这会加速企业自建开源智能体的倾向;而对打算用自研芯片替代 GPU 的云厂商来说,想要撬动这种深度绑定软硬件的企业级工作流,难度又被拉高了一层。

来源 (1)

  1. [1]
    blogs.nvidia.com(在新标签页打开)原文blogs.nvidia.com

话题追踪NVIDIA Blueprints

这个话题的历次新闻,最新的在上面。

  1. NVIDIA 把 NIM 搬上本地 PC:搭配 RTX 50 系列 FP4 算力加速
  2. NVIDIA 推出视频分析智能体蓝图:批量处理速度提升 30 倍
  3. NVIDIA 联合伙伴推出智能体蓝图:开箱即用,支持把 PDF 变播客
  4. NVIDIA 推出视频搜索 Blueprint:用自然语言看懂海量视频
  5. NVIDIA 推出企业 AI 蓝图:打包代码与微服务,加速智能体落地本条

每日 AI 内容精选