跳到正文
IFAI

开源项目

腾讯开源 WeVisOne-VL:单个轻量模型搞定检测、计数与抠图

首次发布 传播指数 49

腾讯微信视觉团队开源视觉语言模型 WeVisOne-VL,推出 2B 与 4B 两个轻量版本。它无需 SAM 等重型模型辅助,仅靠 9.6M 参数的解码器就能统一目标检测、OCR、计数与发丝级透明通道抠图,目标不存在时还会主动拒识。代码与权重已按 Apache 2.0 协议开放,支持本地运行。

腾讯开源 WeVisOne-VL:单个轻量模型搞定检测、计数与抠图
图:github.com

WeVisOne-VL 是腾讯微信视觉团队开源的多合一视觉语言模型,用一个轻量模型把目标检测、目标指向、数量统计、OCR 文字识别以及发丝级抠图全部包揽。

以往做一套完整的视觉流水线,通常要串联好几个专用模型,比如先用检测器框出范围,再挂一个 SAM 提取轮廓,最后还要找专门的抠图工具生成半透明通道。WeVisOne-VL 把这些流程收束到了单个端到端架构里。

它能做什么

在输入一张图片后,你可以直接用自然语言向它发指令。让它找沙发或茶几,它会返回标准的边界框坐标;让它统计画面里宠物的数量,它能边框选边数数;让它读出街道招牌上的文字或定位某个生僻词,它也能兼顾文本位置与内容识别。

更亮眼的是像素级输出。模型支持生成精细的 Alpha 遮罩,连毛发等连续透明细节都能处理,彻底甩掉了 SAM 等百兆甚至十亿参数的重型分割模型辅助。同时它还带主动拒识机制,当你在画面里寻找根本不存在的目标时,它不会硬猜或胡乱标注,而是直接返回 None。

在各项基准测试里,4B 版本的表现相当亮眼。在 Dense200 密集检测上 F1 Mean 达到 71.3,大幅超越了 3B 到 9B 的同类开源基线;在 WeRef-Bench 拒识测试中的拒识率达到 96.4%,而很多现有大模型在这一项甚至不足 50%;在 P3M-500-NP 和 WeRefMat 抠图测试中,衡量误差的 MAD 指标分别压到了 7.3 和 9.8,数值越低代表边缘过渡越自然。

架构与怎么跑起来

这套工具在技术上走了一条非常轻巧的路线。模型底座基于 Qwen3-VL,核心逻辑是将所有任务统一改写为结构化文本输出,用特殊标记表示坐标。关键突破在于后接的像素解码器参数量仅有 9.6M,它结合了特定 token 的隐层状态、预测框与 ViT 多尺度特征,用极低的算力开销直接合成全分辨率遮罩。

整个项目采用宽松的 Apache 2.0 许可证开源,允许商业使用。微信视觉团队不仅在 Hugging Face 放出了 2B 和 4B 两个尺寸的模型权重,还同步开源了技术报告、推理包、Cookbooks、评测脚本,以及他们内部用来生成训练数据的 Mask2Alpha 标注工具。

硬件要求上,40 亿参数版本模型体积约为 19GB,20 亿参数版本体积减半,普通显卡甚至消费级本地电脑都能跑得动。克隆 GitHub 仓库并安装依赖后,可以用官方提供的 Gradio 脚本一键启动本地 Web 界面,后端同时支持 Transformers 与高吞吐的 vLLM。

为什么重要

如果你正在开发需要同时处理定位、打标和抠图的本地图像处理应用,WeVisOne-VL 非常值得现在就接入测试。它最聪明的地方在于没有盲目堆砌大模型体积,而是用一个不到千万参数的超轻解码器搞定了最耗算力的像素级输出,直接省掉了传统管线里多个大模型串联的显存开销与工程复杂度。

和目前主流的多模型拼接方案相比,它把拒识能力做进了原生框架,大大降低了下游业务误报的风险。不过 2B 和 4B 毕竟属于轻量级端侧模型,面对极端复杂的长文本理解或罕见专有词汇时,泛化上限依然受底座语言能力的限制,更适合作为专用视觉分析单元嵌入现有系统。

来源 (1)

  1. [1]
    github.com(在新标签页打开)原文github.com

每日 AI 内容精选