ServiceNow 聯手輝達推出 Apriel Nemotron 15B:開源 15B 推理模型主攻企業智慧體
週二,ServiceNow 與 Nvidia 聯手推出開源推理模型 Apriel Nemotron 15B,主打低延遲與低成本,專門承載企業級智慧體工作流。該模型可作為 Nvidia NIM 微服務執行;雙方還同步公開了聯合資料飛輪架構,幫助企業基於工作流資料持續微調模型。
週二,ServiceNow 與 Nvidia 聯手推出開源推理模型 Apriel Nemotron 15B,主打低延遲與低成本,專門承載企業級智慧體工作流。該模型可作為 Nvidia NIM 微服務執行;雙方還同步公開了聯合資料飛輪架構,幫助企業基於工作流資料持續微調模型。
NVIDIA 宣佈 NeMo 微服務正式商用。這套微服務包含 NeMo Customizer、Evaluator 和 Guardrails 等工具,可將模型微調吞吐拉高 1.8 倍,並打通推理與業務資料飛輪。AT&T、Cisco 等企業已用於構建數字員工。
NVIDIA 推出面向智慧體 AI 的 Llama Nemotron 語言模型與 Cosmos Nemotron 視覺模型家族。新模型分 Nano、Super 與 Ultra 三種尺寸,基於 Llama 架構並經剪枝和蒸餾,兼顧邊緣與雲端部署,大幅降低企業構建多智慧體協同的門檻。
NVIDIA 聯手 LangChain、CrewAI 等夥伴推出面向企業的 Agentic AI 藍圖,支援開發者一鍵部署智慧體。新藍圖涵蓋程式碼文件維護、語音對話以及 NVIDIA 自研的「PDF 轉播客」等方案,旨在讓大模型從簡單問答走向多步驟規劃與執行。
NVIDIA 詳解了企業服務 AI Foundry 的運作模式。它依託 DGX Cloud 算力與 NeMo 平臺,支援企業基於 Llama 3.1 等開源底座微調並打包為 NIM 微服務。這相當於為企業提供大模型代工,讓沒有頂尖演算法團隊的公司也能落地專屬模型。
NVIDIA 在 SIGGRAPH 宣佈推出輕量開發工具套件 AI Workbench。開發者可以在本地 RTX PC 或工作站上一鍵整合來自 Hugging Face 等平臺的開源模型進行微調,隨後直接擴充套件到資料中心或雲端算力。同步更新的 AI Enterprise 4.0 則強化了 NeMo 等生產級部署支援。