Cohere 推出 Rerank 3 Nimble：速度提升 3 倍，專供 SageMaker

在搭建企業級搜尋或 RAG（檢索增強生成）系統時，重排序往往是決定答案准不準、響應快不快的最關鍵一步。

Cohere 宣佈推出 Rerank 3 Nimble，這是其 Rerank 基礎模型系列的最新成員。

速度拉昇三倍的輕量選擇

官方介紹，Rerank 3 Nimble 專門針對企業搜尋與 RAG 場景打造。它在保持高水準準確率的同時，執行速度比原版 Rerank 3 快了大約 3 倍。

這意味著系統在對海量檢索結果進行二次篩選和排序時，耗時將被顯著壓縮。

在可用渠道上，Cohere 表示 Rerank 3 Nimble 目前僅在 Amazon SageMaker 上獨家提供，其他平臺暫未上線。

為什麼重要

我們認為，Cohere 這一步走得相當務實。

在真實的企業生產環境裡，RAG 系統最大的痛點往往不是模型不夠聰明，而是端到端延遲太高。尤其在高併發檢索場景下，傳統重排序模型經常成為拖慢響應的瓶頸。速度提升 3 倍，能直接幫開發者在不犧牲精度的前提下改善使用者體驗。

不過，目前該模型僅限 Amazon SageMaker 平臺使用，看起來對多雲或自建基礎設施的企業來說，遷移和嘗試的門檻依然不低。