NVIDIA 把 NIM 搬上本地 PC：搭配 RTX 50 系列 FP4 算力加速
NVIDIA 公佈面向 RTX AI PC 的 NIM 微服務與 AI 藍圖。官方提供預打包模型與一鍵式 API，結合 RTX 50 系列的 FP4 量化讓大模型視訊記憶體佔用砍半。這意味著本地跑複雜 Agent 不再需要折騰環境，預計下月起陸續開放。
NVIDIA 公佈面向 RTX AI PC 的 NIM 微服務與 AI 藍圖。官方提供預打包模型與一鍵式 API，結合 RTX 50 系列的 FP4 量化讓大模型視訊記憶體佔用砍半。這意味著本地跑複雜 Agent 不再需要折騰環境，預計下月起陸續開放。