跳到正文
IFAI

AI科研

NVIDIA 推出视觉定位框架 LocateAnything:一句话框出目标,密集检测提速 10 倍

首次发布 传播指数 36

NVIDIA 团队推出视觉定位框架 LocateAnything,支持输入一句话文字描述即刻框出并切取图像中的目标物体。它采用并行边界框解码机制并依托 1.38 亿样本数据集训练,将几何框作为原子单元单步解码,在提升定位精度的同时让密集检测速度最高提升 10 倍。

NVIDIA 推出视觉定位框架 LocateAnything:一句话框出目标,密集检测提速 10 倍
图:arxiv.org

如果你做过视觉数据标注或者机器人视觉,大概体会过让大模型找东西的折磨。你让它找图里某个很隐蔽的小物件,它能看懂你想找什么,但真要把框画出来,速度慢得像在挤牙膏。

大模型视觉定位的底层逻辑一直有点别扭。现有的多模态大模型大多把画框当成写字:把一个二维的框拆成四个坐标数字,然后一个 token 接着一个 token 往外蹦。这种串行吐字不仅打破了坐标之间的几何关联,而且一旦画面里物体密集,模型就得机械地吐成百上千个数字,推理速度直接卡死在生成环节。

NVIDIA 团队公开了一项新研究,推出了统一视觉定位框架 LocateAnything。一句话总结,它把视觉定位和目标检测从逐字挤数字,变成了单步出框,密集检测速度直接拉高了 10 倍。

把画框当成一个原子动作

LocateAnything 的核心思路很干脆:既然一个矩形框在空间里本来就是一个整体,为什么非要拆碎了让语言模型逐个预测?

研究团队提出了并行边界框解码(Parallel Box Decoding,简称 PBD)。在这个机制下,边界框或中心点不再是一串被切开的数字 token,而是作为一个独立的几何原子单元,在单一步骤里直接并行解码完成。这样既保留了框内各个坐标的内在几何关联,又彻底释放了并行计算的能力。

在模型架构上,它采用了 Qwen2.5-3B 搭配 Moon-ViT 的组合,并支持快速模式、慢速模式以及混合模式。面对海量候选目标时,用户可以根据实际算力与延迟要求灵活切换。

除了架构创新,NVIDIA 这次还在数据上砸了重金。团队构建了一个名为 LocateAnything-Data 的超大规模数据集,包含超过 1.38 亿条训练样本,大幅扩充了高精度定位的样本多样性。评测结果显示,LocateAnything 在显著提高吞吐量的前提下,高 IoU(交并比)下的定位精度同样大幅提升。

为什么重要

我们认为,LocateAnything 找准了大模型落地物理世界最尴尬的一个断点。

过去两年里,多模态大模型虽然在看图说话、常识问答上突飞猛进,但一旦要求它精确定位一个像素级别的物体,往往要么算力开销巨大,要么延迟高到无法满足实时交互。工业质检、自动驾驶和具身机器人等场景,根本等不起模型几个坐标几个坐标地慢慢吐。

对开发者和下游行业来说,这个框架带来的价值非常直观。如果输入一句话描述就能秒级框出甚至切出对应物体,且在密集场景下拥有 10 倍的吞吐优势,自动化数据清洗、智能图像检索和具身智能的抓取感知环节,效率都会成倍翻番。配合 3B 级别的轻量级底座,它甚至具备在边缘计算设备上跑起来的潜力。

看起来,NVIDIA 这次是在给下一阶段的具身智能和视觉感知铺路。当几何先验被巧妙塞回生成模型之后,多模态大模型才算真正具备了又快又准看懂现实空间的能力。

来源 (1)

  1. [1]

每日 AI 内容精选