Cohere 推出 Rerank 3.5：強化複雜推理搜尋，支援超百種語言

搞過檢索增強生成（RAG）的人大概都經歷過這種尷尬：向量資料庫辛辛苦苦撈出一堆看似相關的材料，餵給大模型後卻答非所問，甚至一本正經地胡說八道。

問題往往出在第一道搜尋不夠準。很多團隊習慣直接把初篩結果扔給大模型，結果垃圾進、垃圾出。Cohere 在 12 月 2 日推出了新一代重排模型 Rerank 3.5，核心任務就是專門給這個環節把關。

專給 AI 搜尋做「第二道篩子」

傳統的向量搜尋靠的是預先算好的靜態向量，雖然找得快，但遇到複雜的長句或者多層條件，很容易抓不住重點。

Rerank 3.5 採用的是交叉編碼（Cross-encoder）架構。說白了，它是在收到查詢的當下，把使用者的問題和候選文件綁在一起進行深度比對。

這種動態分析能夠理解字面背後的上下文邏輯。前端可以放開手腳做寬泛檢索，後端靠它把最相關的結果挑出來，直接給大模型減負，大幅壓低幻覺機率。

專啃複雜業務的硬骨頭

這一代模型最核心的進化是複雜推理與多語言能力。它支援超過 100 種語言，包括中文、英語、日語、韓語、阿拉伯語、德語和西班牙語等。

對跨國企業來說，這意味著一套系統能直接處理全球不同語言的資料庫，不用再費勁針對每個語種單獨折騰一套管道。

在垂直場景的測試中，Cohere 拿出了很強硬的資料。官方表示它在金融和電商基準測試中都達到了業內頂尖水平。

在電商領域，它能輕鬆讀懂由鍵值對組成的商品屬性，在複雜篩選下找出最符合意圖的商品。在酒旅搜尋以及排查 GitHub Issue 和專案管理工單時，它的定位精度也有明顯提升。

工程落地上也走得很快。AWS 已經把 Rerank 3.5 接入了 Amazon Bedrock，還整合進了 Bedrock Knowledge Bases。開發者不需要自己折騰顯示卡和部署，單次 API 呼叫就能直接掛進現有的系統裡。

為什麼重要

對正在搭建企業知識庫或智慧客服的團隊來說，換一個大語言模型傷筋動骨，但加一層重排模型往往是立竿見影的捷徑。幾行程式碼就能把檢索精度提上一大截，這比一味調大提示詞要划算得多，非常值得現在去嘗試。

從行業競爭來看，AI 搜尋的重心正在從單純比拼底層大模型的引數量，轉向比拼整套資料檢索鏈路的工程質量。Cohere 一直在避開和大模型巨頭正面硬碰，轉而死磕企業檢索中最髒、最累的精度問題，這步棋走得相當清醒。

不過我們認為，這種架構並非沒有隱患。交叉編碼的精度固然極高，但計算開銷遠大於傳統的靜態向量搜尋。如果在高併發場景下對幾百上千條候選文件做全量重排，延遲和賬單都會成為現實問題，業務上線前必須做好初篩數量的平衡。