NVIDIA 上线 FLUX.1 Kontext NIM 微服务:显存降至 7GB,速度翻倍
NVIDIA 推出 FLUX.1 Kontext [dev] NIM 微服务。通过 FP8 与 FP4 量化,模型占用从 24GB 最低压缩至 7GB,结合 TensorRT 带来超 2 倍推理加速,且支持在 ComfyUI 中一键调用。
NVIDIA 推出 FLUX.1 Kontext [dev] NIM 微服务。通过 FP8 与 FP4 量化,模型占用从 24GB 最低压缩至 7GB,结合 TensorRT 带来超 2 倍推理加速,且支持在 ComfyUI 中一键调用。
NVIDIA 宣布为 Black Forest Labs 的图像编辑模型 FLUX.1 Kontext [dev] 提供 TensorRT 加速。通过量化将模型体积压缩至 12GB(FP8)和 7GB(FP4),推理性能提升超 2 倍,创作者在本地 RTX 显卡上即可靠自然语言轻松修图。
NVIDIA 联合 Stability AI 为 Stable Diffusion 3.5 推出 TensorRT 加速与 FP8 量化。SD3.5 Large 显存需求从 18GB 骤降至 11GB,生成速度飙升 2.3 倍,主流消费级 RTX 显卡也能轻松跑起大模型。
Stability AI 宣布与 NVIDIA 合作,通过 TensorRT 深度优化 SDXL 并开放 ONNX 权重。在 H100 GPU 上模型性能翻倍,高清图生成仅需 1.47 秒,延迟降低 41%、吞吐量提升 70%。生图效率大幅提高,能直接降低创作者与开发者的部署成本。