検索器を使わない「DecisionRAG」登場、268万件の文書から最速0.7秒で特定

RAGシステムを構築したことがある人なら誰でも、検索器の精度の低さに頭を抱えた経験があるはずです。最初の検索で必要な情報を取りこぼすと、後ろに控える最新モデルがどれほど賢くてもリカバリーできません。

だからといって大規模モデルに逐一考えさせながら検索させると、レスポンスが遅すぎて使い物になりません。そんな中、2026年10月26日にarXivで公開された論文「DecisionRAG」は、従来のベクトル検索器を完全に廃止し、決定モデルに置き換える新手法を提案しました。

図書館の本棚をたどるような探索

従来の検索はキーワード一致や固定のベクトル類似度に依存しており、モデルの読解力と検索器の性能の間に大きな隔たりがありました。

DecisionRAGのアプローチは、人間が図書館で本を探すやり方に似ています。膨大な文書群を大カテゴリ、記事タイトル、段落といった階層構造に整理し、上から順にたどっていきます。

賢いのは、思考プロセスを1文字ずつテキスト生成しない点です。決定モデルは同じ階層にあるすべての選択肢を1回のフォワードパスでまとめて評価します。

共通の文脈の中で候補を同時に比較するため、精度の高い判断が下せます。テキストを吐き出さずに最も有望な枝をたどるだけで済むため、大モデルに思考させながら探す方式と比べて30倍以上高速です。

268万件の文書から1秒未満で特定

公開された実験データによると、DecisionRAGの性能は主要ベンチマークで際立っています。

268万段落ものWikipediaデータを対象にした実験では、1回の検索にかかった時間はわずか0.7〜1.8秒でした。コストも1クエリあたり0.2〜2.3セントに抑えられています。

さらに特定のタスク向けに追加学習を行うことなく、従来の密ベクトル検索と8Bパラメータのリランカーを組み合わせた構成を大きく引き離しました。

MultiDoc2DialではR@1スコアを13.8ポイント、Natural QuestionsではHit@1スコアを17.4ポイントも更新しています。

なぜ重要か

従来の「一次検索＋リランク」という定石の限界を打ち破った点が、何より興味深いところです。

これまで業界ではリランカーを大型化して精度を上げようとしてきましたが、初動のベクトル検索が外れれば後段でどんなに頑張っても意味がありませんでした。DecisionRAGはモデルの判断力を直接ナビゲーションに使いつつ、トークン生成を省くことで実用的な速度を両立しています。

社内マニュアルや技術文書など、すでに目次や階層構造が整っているドキュメントを持つ組織にとって、試す価値が十分にあります。

ただし課題もあります。この仕組みは文書自体の階層構造に依存しているため、雑多で整理されていないテキスト群に適用する場合、いかに事前構造化を行うかが導入の成否を分けることになりそうです。