跳到正文
IFAI

开源项目

Sperid Labs 开源 Idol:单图生成百万级 3D 高斯模型

首次发布 传播指数 59

Sperid Labs 开源单图转 3D 高斯模型 Idol。它能自动扣除背景并补全遮挡的背面,直接输出包含百万级高斯点的 3DGS 文件。最值得关注的是,模型显存峰值仅需 7.2 GB,普通消费级显卡几秒到十几秒即可跑通。

Sperid Labs 开源 Idol:单图生成百万级 3D 高斯模型
图:huggingface.co

Idol 是 Sperid Labs 开源的 3D 生成工具,能把任意一张单视角图片直接变成标准的 3D 高斯(3D Gaussian Splatting)资产。

你给它一张普通照片、3D 渲染图或者 AI 绘制的概念图,它会自动完成抠图,脑补出背面那些完全看不到的角度,最后导出一份包含最高百万级细节的 .ply 格式高斯点云文件。更重要的是,它对硬件的要求很克制,显存峰值只有 7.2 GB,普通人手头的消费级显卡就能直接在本地跑起来。

它能做什么

传统的单图重建往往需要先生成网格再贴图,不仅计算慢,还容易在背光和遮挡面生成一团模糊的杂质。Idol 则完全基于高斯点云,把整个物体拆解成成千上万个空间高斯球。

模型允许用户自由调节精细度。输出的高斯点数量从 32,768 到 1,048,576 不等,只要是 32 的倍数都可以设置。如果你只是想快速看一眼空间轮廓,调到 3 万多点就能极速出图;如果需要精细纹理,拉到百万点就能保留相当锐利的表面细节。

在 Sperid Labs 公布的基准测试中,Idol 在 H100 上的表现全面压制了同类开源方案。在盲区新视角的评估中,它的 DINOv2 和 CLIP 评分都超过了 TripoSplat 和 TRELLIS,锐度距离降到了 0.81。老牌模型 LGM 虽然在像素平均误差上微弱领先,但生成结果有明显的肉眼可见模糊,而 Idol 在保证几何结构准确的同时,背面推断也更干净。

怎么跑起来与硬件要求

这套模型之所以能在本地轻松运行,是因为它的核心架构做得足够精简。它的去噪与解码核心参数只有 0.66B 左右,加上内置的抠图标注模型 BiRefNet、DINOv3 特征提取器以及 FLUX.2 的 VAE,整套管线的模型权重也只有 3.7 到 4.4 GB。

显存优化非常激进。默认开启 torch.compile 和 cuDNN TF32 编译加速后,峰值显存锁定在 7.2 GB,速度提升接近 1.7 倍。在顶级芯片 B300 上生成 26 万点的高斯模型只要 3.4 秒,官方宣称特定条件下最快 2 秒出头;在消费级显卡上,RTX 5090 耗时 14.1 秒,RTX 4090 约 19.1 秒,即使是 10GB 显存的老显卡 RTX 3080,花 40 多秒也能稳稳跑完。

代码目前已经在 GitHub 开源,SDK 名称为 idol-sdk,主模型权重托管在 Hugging Face。运行环境需要 Python 3.10、PyTorch 2.5 和支持 CUDA 的英伟达显卡。

需要注意的是,Idol 在输入端依赖两个需要申请权限的模型:Meta 的 DINOv3 和 Black Forest Labs 的 FLUX.2-dev(仅下载其 VAE)。在第一次运行脚本前,需要在 Hugging Face 页面勾选同意对应协议,并用终端登录账号,之后权重会自动缓存到本地。针对输入源,工具还贴心地分了 real(真实摄影照片)和 synthetic(单物体渲染图)两种裁切模式。

为什么重要

对于独立游戏开发者、3D 视觉创作者和工业设计人员来说,Idol 最大的价值在于把 3D 生成的试错门槛砸了下来。以前要跑通高质量的单图 3D 重建,往往需要动用昂贵的云端集群或大显存工作站,现在一张千元级的二手显卡就能在几十秒内完成资产雏形验证。

我们认为,Idol 这种小核心配专用编码器的设计思路非常聪明。它不盲目卷参数量,而是把多模态理解交给现成的 DINOv3,把纹理潜空间交给 FLUX.2,自己专心做好 3D 几何分布去噪。

不过读者也需要看清它的局限。高斯点云格式并不是游戏引擎里开箱即用的多边形网格,如果你需要做角色绑定骨骼或传统物理碰撞,后续还得依赖工具转成 Mesh。但单纯作为前期的视觉概念探索和数字化摆件生成,它绝对是目前开源生态里最轻快好用的一档,值得本地有显卡的朋友下载跑跑看。

来源 (3)

  1. [1]
    huggingface.co(在新标签页打开)原文huggingface.co
  2. [2]
    speridlabs.com(在新标签页打开)报道speridlabs.com
  3. [3]
    youtube.com(在新标签页打开)报道youtube.com

每日 AI 内容精选