DeepMind 揭開向量檢索硬傷：單向量撐不住複雜 RAG

現在幾乎所有企業級 AI 都在用同一套邏輯打底：把文字變成高維空間裡的向量，使用者搜一句話，系統就找空間裡離它最近的一堆文件。這套基於單向量的檢索增強生成（RAG），一直被大家當成解決大模型胡說八道的靈丹妙藥。

但這套路子可能碰到了物理定律級別的牆。Google DeepMind 最近發了一篇研究，直接指出單向量嵌入存在根本性的數學缺陷。這不是模型訓練得夠不夠好、或者引數量夠不夠大的問題，而是把一篇文件壓縮成一個固定維度的向量，在數學上本來就裝不下所有可能的關聯組合。

完美數學世界裡的臨界點

很多人以為向量搜尋召回不準，是因為使用者提示詞寫得爛，或者是語言模型理解能力有限。DeepMind 的研究團隊為了驗證到底是不是架構本身的鍋，做了一個非常極端的理想化實驗。

他們徹底繞開了語言模型，直接在純數學層面對數值向量進行最佳化，他們稱之為「自由嵌入最佳化」。這相當於給向量檢索開了一個無敵外掛，去掉了所有自然語言處理帶來的損耗，只測高維空間本身的幾何容納極限。

結果依然撞了牆。實驗發現，對於任何給定的向量維度，都有一個明確的「臨界點」。只要系統裡的文件數量一多，需要匹配的文件組合稍微複雜一點，有限的維度就會被瞬間擠爆。

研究團隊推導到現實規模後發現，即便是當前工業界最大的向量維度，再配上理想狀態下的最佳化，也根本不可能覆蓋網路級搜尋中可能出現的所有文件組合。換句話說，單向量在幾何上天生就有上限。

幾十年前的老演算法，打翻了頂尖模型

現在的行業基準測試平時看不出問題。比如擁有 32.5 萬篇文件的 QUEST 資料集，20 篇相關文件的組合方式超過 71 後面跟 90 個零，但常見的 3000 個測試查詢只摸到了這個龐大空間的冰山一角。

為了扯下這層遮羞布，DeepMind 專門做了一個叫 LIMIT 的測試集。這個測試集裡的內容簡單得像小學英語：文件寫著「愛麗絲喜歡蘋果和香蕉」，查詢就是「誰喜歡蘋果」。但它的刁鑽之處在於，精心設計了海量互相重疊的文件組合，考驗模型能不能同時處理一個文件在多種查詢下的歸屬。

結果讓一眾頂尖模型灰頭土臉。來自 Google、Snowflake 等團隊的最新嵌入模型在完整任務上的召回率暴跌，有些甚至連 20% 都不到。研究人員試著把模型在 LIMIT 訓練集上微調，效能幾乎沒有任何起色，這說明它不是換了個陌生領域不會答，而是架構腦容量徹底超載了。

更有戲劇性的是，在這個把最新 AI 虐得體無完膚的任務裡，誕生了幾十年的老牌詞法搜尋演算法 BM25 表現得異常出色。

為什麼重要

對於每天搭建 RAG 系統的開發者和架構師來說，這項研究敲響了一個警鐘：別再迷信純向量檢索了。如果你的系統需要處理「找出所有喜歡蘋果且住在美國的人」這種看似簡單但涉及交集並集的指令，盲目換用更貴的向量模型或者拼命調優 Embedding，很可能是在徒勞地撞牆。

我們認為，這項研究最聰明的地方，是用純幾何的方式證明了單向量的理論死局，而不是陷入「這個模型訓得更好一點」的泥潭。它給業界指出的隱患非常明確：現在很多號稱全能的企業級知識庫，只要檢索邏輯從「模糊相似」變成「精確條件過濾」，可靠性就會斷崖式下跌。

接下來整個行業的競爭路線大機率要被迫變道。單純拼向量模型大小的收益已經見頂，未來更實用的方案必須走向混合檢索，老老實實把 BM25 這類傳統詞法搜尋、多向量技術或者圖結構重新接回檢索流裡。有時候，打敗所謂現代黑科技的，恰恰是二十年前寫在教材裡的老方法。