研究人員推出 DecisionRAG:不用檢索器,268 萬段資料檢索只要 0.7 秒
研究人員推出 DecisionRAG,用決策模型替代傳統向量檢索與生成式推理。系統借鑑人類查閱圖書的層級結構,單次前向傳播即可給同級選項同時打分,不生成文本直接逐層定位。在 268 萬段維基百科測試中,檢索僅需 0.7 到 1.8 秒,召回率大幅領先傳統重排方案。
做 RAG 應用的人都知道一個痛點:前面向量檢索一旦漏掉了關鍵段落,後面哪怕接再強的大模型,也根本救不回來。
很多團隊為了準確率,選擇讓大模型一步步思考查詢,但速度慢得讓人難以忍受。2026 年 10 月 26 日,研究人員在 arXiv 上釋出了一篇論文,提出了一種名為 DecisionRAG 的新架構,直接把傳統的向量檢索器換成了決策模型。
像在圖書館找書一樣逐層篩選
傳統的檢索要麼靠關鍵詞硬碰,要麼在固定的向量空間裡算相似度,經常找不到真正關聯的內容。
DecisionRAG 的做法很像人類去圖書館查資料。它把龐大的語料庫整理成結構清晰的層級樹,從大分類、文章標題一路細分到具體段落。
更聰明的是,它不用像傳統推理模型那樣逐字生成思考過程。系統在單次前向傳播中,讓決策模型在共享上下文中對同級所有候選分支同時打分。
因為大家都在同一個上下文裡對比,相關性判斷變得更準,系統只要順著分數最高的路徑逐層往下鑽就能找到目標。比起讓普通大模型慢慢思考搜尋,這種方式快了 30 多倍。
268 萬段資料檢索只要 0.7 秒
根據論文公佈的測試資料,DecisionRAG 在橫跨四個基準測試中的表現相當亮眼。
面對維基百科超過 268 萬個段落的龐大資料庫,它完成一次檢索只需要 0.7 到 1.8 秒,單次查詢的計算成本只有 0.2 到 2.3 美分。
在效果上,它甚至不需要針對具體任務做訓練。在沒有第一階段檢索器的情況下,DecisionRAG 的表現直接超過了密集檢索加上 8B 引數重排器的傳統組合。
在 MultiDoc2Dial 測試集上,它的 R@1 指標高出了 13.8 點;在 Natural Questions 測試集上,Hit@1 指標也高出了 17.4 點。
為什麼重要
我們認為 DecisionRAG 最亮眼的地方,是它打破了過去檢索和生成割裂的固有思維。
長期以來,行業都在「檢索召回加重排」的套路里打轉,哪怕把重排模型堆到 8B 甚至更大,只要前置召回漏了球,後排做得再好也是無用功。DecisionRAG 讓預訓練模型的能力直接接管檢索路徑,同時用打分代替吐字,把速度拉回了毫秒級別。
對企業和開發者來說,如果你的知識庫本身就具備較好的目錄樹、章節或分類層級,這項技術很有吸引力。它能讓你在不犧牲推理速度的前提下,換來接近精細推理的查詢精度。
不過它的侷限也很明顯。這種方法高度依賴語料庫固有的層級結構,如果面對完全碎片化、沒有分類邏輯的雜亂文本,如何自動建構出高效的導航樹,會是落地時最大的考驗。
來源 (1)
- arxiv.org(在新分頁開啟)原文arxiv.org