NVIDIA 詳解 AI Foundry:像台積電代工晶片一樣,幫企業定製大模型
NVIDIA 詳解了企業服務 AI Foundry 的運作模式。它依託 DGX Cloud 算力與 NeMo 平臺,支援企業基於 Llama 3.1 等開源底座微調並打包為 NIM 微服務。這相當於為企業提供大模型代工,讓沒有頂尖演算法團隊的公司也能落地專屬模型。
NVIDIA 詳解了企業服務 AI Foundry 的運作模式。它依託 DGX Cloud 算力與 NeMo 平臺,支援企業基於 Llama 3.1 等開源底座微調並打包為 NIM 微服務。這相當於為企業提供大模型代工,讓沒有頂尖演算法團隊的公司也能落地專屬模型。
NVIDIA 與 Hugging Face 宣佈合作,把 DGX Cloud 超算直接接入 Hugging Face 平臺。平臺將推出「訓練叢集即服務」,每個例項搭載 8 塊 H100 或 A100,讓開發者一鍵呼叫多節點算力定製企業大模型。該服務預計在未來數月內上線。