研究人员推出 DecisionRAG:不用检索器,268 万段资料检索只要 0.7 秒
研究人员推出 DecisionRAG,用决策模型替代传统向量检索与生成式推理。系统借鉴人类查阅图书的层级结构,单次前向传播即可给同级选项同时打分,不生成文本直接逐层定位。在 268 万段维基百科测试中,检索仅需 0.7 到 1.8 秒,召回率大幅领先传统重排方案。
做 RAG 应用的人都知道一个痛点:前面向量检索一旦漏掉了关键段落,后面哪怕接再强的大模型,也根本救不回来。
很多团队为了准确率,选择让大模型一步步思考查找,但速度慢得让人难以忍受。2026 年 10 月 26 日,研究人员在 arXiv 上发布了一篇论文,提出了一种名为 DecisionRAG 的新架构,直接把传统的向量检索器换成了决策模型。
像在图书馆找书一样逐层筛选
传统的检索要么靠关键词硬碰,要么在固定的向量空间里算相似度,经常找不到真正关联的内容。
DecisionRAG 的做法很像人类去图书馆查资料。它把庞大的语料库整理成结构清晰的层级树,从大分类、文章标题一路细分到具体段落。
更聪明的是,它不用像传统推理模型那样逐字生成思考过程。系统在单次前向传播中,让决策模型在共享上下文中对同级所有候选分支同时打分。
因为大家都在同一个上下文里对比,相关性判断变得更准,系统只要顺着分数最高的路径逐层往下钻就能找到目标。比起让普通大模型慢慢思考搜索,这种方式快了 30 多倍。
268 万段资料检索只要 0.7 秒
根据论文公布的测试数据,DecisionRAG 在横跨四个基准测试中的表现相当亮眼。
面对维基百科超过 268 万个段落的庞大资料库,它完成一次检索只需要 0.7 到 1.8 秒,单次查询的计算成本只有 0.2 到 2.3 美分。
在效果上,它甚至不需要针对具体任务做训练。在没有第一阶段检索器的情况下,DecisionRAG 的表现直接超过了密集检索加上 8B 参数重排器的传统组合。
在 MultiDoc2Dial 测试集上,它的 R@1 指标高出了 13.8 点;在 Natural Questions 测试集上,Hit@1 指标也高出了 17.4 点。
为什么重要
我们认为 DecisionRAG 最亮眼的地方,是它打破了过去检索和生成割裂的固有思维。
长期以来,行业都在「检索召回加重排」的套路里打转,哪怕把重排模型堆到 8B 甚至更大,只要前置召回漏了球,后排做得再好也是无用功。DecisionRAG 让预训练模型的能力直接接管检索路径,同时用打分代替吐字,把速度拉回了毫秒级别。
对企业和开发者来说,如果你的知识库本身就具备较好的目录树、章节或分类层级,这项技术很有吸引力。它能让你在不牺牲推理速度的前提下,换来接近精细推理的查找精度。
不过它的局限也很明显。这种方法高度依赖语料库固有的层级结构,如果面对完全碎片化、没有分类逻辑的杂乱文本,如何自动建构出高效的导航树,会是落地时最大的考验。
来源 (1)
- arxiv.org(在新标签页打开)原文arxiv.org