跳到正文
IFAI

AI工具

NVIDIA 推出企業 AI 藍圖:打包程式碼與微服務,加速智慧體落地

首次發布 傳播指數 37

NVIDIA 推出 NVIDIA Blueprints,為企業提供可直接部署的生成式 AI 工作流模板。首發涵蓋客服數字人、藥物虛擬篩選和多模態 PDF 提取,包含參考程式碼、文件及 Helm chart。說白了,企業不用再從零拼湊元件,拿現有微服務就能快速跑通資料飛輪。

NVIDIA 推出企業 AI 藍圖:打包程式碼與微服務,加速智慧體落地
圖:blogs.nvidia.com

很多企業買了昂貴的 GPU,也下載了最新的開源大模型,但真要給業務搭一個好用的 AI 智慧體時,往往卡在半路。如何把大模型、檢索資料庫、微服務和安全護欄串在一起,成了一道工程難題。

NVIDIA 拿出了他們的解決方案:推出 NVIDIA Blueprints(最初命名為 NIM Agent Blueprints)。說白了,這就是給企業開發者準備的生成式 AI 完整應用樣板間,把從底層推理到業務落地的全套參考流程打包送上門。

給企業直接發樣板間和施工圖

搭企業級 AI 應用從來不是調個 API 那麼簡單。它涉及模型選型、檢索增強生成(RAG)、微服務編排以及後續的模型迭代,步驟非常繁瑣。

NVIDIA 這次推出的 Blueprints 不只是幾段演示程式碼,而是一整套開箱即用的工作流。裡面包含了基於 NVIDIA NIM 和合作夥伴微服務構建的示例應用、參考原始碼、定製說明文件,甚至連用於容器部署的 Helm chart 都配齊了。

開發者可以直接基於這些藍圖修改,支援呼叫的模型包括 Llama 3.1 405B、Google Gemma、Microsoft Phi、Mixtral 和 Nemotron 等主流開源底座。

首批上線的藍圖覆蓋了三個具體的業務場景:用於客服的數字人互動、加速藥物發現的生成式虛擬篩選,以及專門搞定複雜版面的多模態 PDF 資料提取 RAG 系統。

除了把應用跑起來,NVIDIA 還在推所謂的「生成式 AI 飛輪」。當用戶和應用互動產生新資料後,企業可以通過 NeMo 和 NVIDIA AI Foundry 把資料反哺給模型進行微調,讓定製的 NIM 微服務在業務運轉中越用越聰明。

拉上一整張企業 IT 朋友圈

單靠 NVIDIA 自己賣軟體顯然不夠,他們這次拉來了一整個企業級生態為藍圖鋪路。

在業務軟體方面,ServiceNow 已經把相關技術用在了自家的 Now Assist 解決方案中,正結合數字人藍圖開發客戶服務功能。

在落地交付上,埃森哲、德勤、SoftServe、Quantiphi 和 WWT 等大型系統整合商負責把藍圖送到全球大企業裡。開發和安全環節則接入了 LangChain、LlamaIndex、Dataiku、CrowdStrike 和 Datadog 等工具鏈。

底層的執行環境也沒有設限。這些藍圖既能在戴爾、聯想、HPE、思科的認證伺服器上跑,也能部署在亞馬遜雲科技、微軟 Azure、谷歌雲和甲骨文雲上。NVIDIA 還計劃在此後按月更新藍圖,陸續補齊軟體工程、零售導購和內容生成等場景。

為什麼重要

我們認為,NVIDIA 這一步走得極其精明,它的目標是徹底吃透企業軟體的上層預算。

以前企業買卡,算力裝進機房後怎麼發揮價值全看客戶自己的工程團隊造化,週期長、試錯成本高。現在 NVIDIA 直接把行業應用的標準工作流定好,程式碼和部署模板雙手奉上,相當於把開發門檻直接砍掉一大截。如果你是負責企業智慧化落地的工程師,現在完全沒必要從零造輪子,拿現成的多模態 RAG 藍圖搭 Demo 會快很多。

更關鍵的在於生態鎖定。表面上看,NVIDIA 擁抱了各家開源大模型,甚至允許企業部署在任何雲平臺上;但仔細看就會發現,每個藍圖的核心粘合劑都是 NVIDIA 自己的 NIM 微服務、NeMo 和加速計算庫。

看起來企業獲得了跨平臺自由,但實際上應用架構越依賴這套參考藍圖,底層對 NVIDIA 軟硬體體系的依賴就越深。對 OpenAI 等模型廠商來說,這會加速企業自建開源智慧體的傾向;而對打算用自研晶片替代 GPU 的雲廠商來說,想要撬動這種深度繫結軟硬體的企業級工作流,難度又被拉高了一層。

來源 (1)

  1. [1]
    blogs.nvidia.com(在新分頁開啟)原文blogs.nvidia.com

話題追蹤NVIDIA Blueprints

這個話題的歷次新聞,最新的在上面。

  1. NVIDIA 把 NIM 搬上本地 PC:搭配 RTX 50 系列 FP4 算力加速
  2. NVIDIA 推出影片分析智慧體藍圖:批次處理速度提升 30 倍
  3. NVIDIA 聯合夥伴推出智慧體藍圖:開箱即用,支援把 PDF 變播客
  4. NVIDIA 推出影片搜尋 Blueprint:用自然語言看懂海量影片
  5. NVIDIA 推出企業 AI 藍圖:打包程式碼與微服務,加速智慧體落地本則

每日 AI 內容精選