跳到正文
IFAI

AI工具

Stability AI 联手 NVIDIA 推出 SD3.5 NIM:企业生成提速 1.8 倍

首次发布 传播指数 35

Stability AI 联合 NVIDIA 推出 Stable Diffusion 3.5 NIM 微服务,加速企业级部署。基于 TensorRT 优化,在 H100 上图像生成速度比 PyTorch 提升 1.8 倍,并把 SD3.5 Large 与 Depth、Canny 等 ControlNet 打包进同一容器。

Stability AI 联手 NVIDIA 推出 SD3.5 NIM:企业生成提速 1.8 倍
图:stability.ai

很多企业在本地部署开源生图模型时,最头疼的往往不是显卡够不够多,而是怎么把环境调优、把推理延迟压下来,以及怎么同时伺候好几个 ControlNet 插件。

Stability AI 联手英伟达交出了一份针对企业的作业:推出 Stable Diffusion 3.5 NIM 微服务。说白了,就是把顶级的 SD3.5 Large 模型做成了一个开箱即用的标准容器镜像。

这一套方案目前已经上线 build.nvidia.com,模型权重依然可以从 Hugging Face 直接下载。

速度翻了将近一倍,还把插件塞进了同一个容器

对企业生产环境来说,最硬的指标永远是延迟和吞吐。

根据官方公布的测试数据,在英伟达 H100 显卡上,经过 TensorRT 优化的 SD3.5 NIM 生成一张图耗时约 3700 毫秒,而原生 PyTorch 环境下则需要 6800 毫秒。整体性能提升达到了 1.8 倍。

除了速度,这次更实用的改变在于部署方式的简化。

以前做控图生成,工程师往往需要给主模型、Depth 深度控制网和 Canny 边缘控制网分别配置服务。这次的 NIM 镜像直接把 SD3.5 Large 以及 Depth、Canny 两个 ControlNet 打包进同一个容器,企业不用再单独维护多套运行环境。

硬件支持方面,该服务适配了英伟达企业级与数据中心级别的 Ada 和 Blackwell 架构显卡,后续还会逐步扩展支持更多模型。

商业许可模式延续了 Stability AI 的社区许可规则。年营收低于 100 万美元的团队可以免费商用,而超过 100 万美元的企业则需要购买企业授权以获取定制支持。

为什么重要

这对于正在搭建内部设计流或营销素材流的团队来说,算是一个能省下大量运维成本的节点。

我们认为,自建开源生图管线最劝退人的地方就是推理工程化。单次生成耗时接近 7 秒的话,在交互式设计或者批量生产场景里体验会非常割裂,压缩到 3.7 秒意味着很多多模型级联的工作流终于能跑在合理的时间内了。

这一步也看出了英伟达推行 NIM 微服务的意图。英伟达不想只当卖卡的硬件商,而是想靠这种深度绑定 TensorRT 和自身硬件架构的开箱即用方案,让企业在基础设施层面离不开英伟达的数据中心 GPU,构筑更深的企业级壁垒。

不过门槛依然存在。这个方案主要面向高端企业级算力,硬件要求落在了 Ada 和新一代 Blackwell 上,小团队如果自建集群成本依然不低。但对已经买了云端高算力的企业而言,现在把原先松散的开源部署换成标准化 NIM,看起来是个性价比很高的升级选择。

来源 (1)

  1. [1]
    stability.ai(在新标签页打开)原文stability.ai

每日 AI 内容精选