NVIDIA 详解 AI Foundry:像台积电代工芯片一样,帮企业定制大模型
NVIDIA 详解了企业服务 AI Foundry 的运作模式。它依托 DGX Cloud 算力与 NeMo 平台,支持企业基于 Llama 3.1 等开源底座微调并打包为 NIM 微服务。这相当于为企业提供大模型代工,让没有顶尖算法团队的公司也能落地专属模型。
NVIDIA 详解了企业服务 AI Foundry 的运作模式。它依托 DGX Cloud 算力与 NeMo 平台,支持企业基于 Llama 3.1 等开源底座微调并打包为 NIM 微服务。这相当于为企业提供大模型代工,让没有顶尖算法团队的公司也能落地专属模型。
NVIDIA 与 Hugging Face 宣布合作,把 DGX Cloud 超算直接接入 Hugging Face 平台。平台将推出「训练集群即服务」,每个实例搭载 8 块 H100 或 A100,让开发者一键调用多节点算力定制企业大模型。该服务预计在未来数月内上线。