跳到正文
IFAI

大模型

ServiceNow 聯手輝達推出 Apriel Nemotron 15B:開源 15B 推理模型主攻企業智慧體

首次發布 傳播指數 46

週二,ServiceNow 與 Nvidia 聯手推出開源推理模型 Apriel Nemotron 15B,主打低延遲與低成本,專門承載企業級智慧體工作流。該模型可作為 Nvidia NIM 微服務執行;雙方還同步公開了聯合資料飛輪架構,幫助企業基於工作流資料持續微調模型。

ServiceNow 聯手輝達推出 Apriel Nemotron 15B:開源 15B 推理模型主攻企業智慧體
圖:zdnet.com

Apriel Nemotron 15B 是 ServiceNow 與 Nvidia 聯手打造的開源推理模型,引數量為 150 億(15B),專門用來承載企業級自律智慧體(Agentic AI)任務。

它的核心賣點是在相對較小的體量裡塞進企業所需的推理能力,同時把延遲和推理成本降下來,讓企業不需要呼叫昂貴的超大閉源模型也能跑自動化流程。

它能做什麼

企業裡的 AI 智慧體往往要在無人干預的情況下自主拆解任務、替員工執行流程。這要求模型必須具備很強的自主推理與判斷能力。

根據官方測試結果,Apriel Nemotron 15B 在同參數級別的基準測試中表現亮眼,非常契合需要多步推理的複雜智慧體工作流。

該模型是基於 Nvidia NeMo 框架訓練而成,融合了 Nvidia Llama Nemotron 後訓練資料集以及 ServiceNow 沉澱的企業專有領域資料。

怎麼跑起來與資料飛輪

Apriel Nemotron 15B 主要作為 Nvidia NIM 微服務形式分發,可以直接部署在輝達 GPU 算力基礎設施上高效執行。

除了獨立的開源模型,兩家公司還同步拿出了配套的「聯合資料飛輪架構」。

這套飛輪將 ServiceNow Workflow Data Fabric 與指定的 Nvidia NeMo 微服務打通,讓模型可以在企業真實的互動和業務流中收集資料、持續微調迭代。

針對企業級客戶對安全和合規的擔憂,該架構也內建了必要的防護欄機制,確保資料處理及時且受控,最終形成具備上下文感知、高度定製化的專屬業務智慧體。

為什麼重要

如果你正在為企業搭建自動化 Agent,卻被超大推理模型的呼叫延遲和賬單勸退,這個模型非常值得一試。15B 的體積放在輝達硬體上跑 NIM 微服務,價效比和響應速度優勢都很明顯。

我們認為兩家這次的合作路徑非常務實。行業已經從盲目拼大模型引數,轉向用緊湊模型加垂直領域資料做精準推理。不過要想真正轉起那個資料飛輪,前提依然是企業自身得有足夠規範、清晰的業務工作流資料來餵養它。

來源 (1)

  1. [1]
    zdnet.com(在新分頁開啟)原文zdnet.com

每日 AI 內容精選