Cohere 推出 Rerank 3.5：强化复杂推理搜索，支持超百种语言

搞过检索增强生成（RAG）的人大概都经历过这种尴尬：向量数据库辛辛苦苦捞出一堆看似相关的材料，喂给大模型后却答非所问，甚至一本正经地胡说八道。

问题往往出在第一道搜索不够准。很多团队习惯直接把初筛结果扔给大模型，结果垃圾进、垃圾出。Cohere 在 12 月 2 日推出了新一代重排模型 Rerank 3.5，核心任务就是专门给这个环节把关。

专给 AI 搜索做「第二道筛子」

传统的向量搜索靠的是预先算好的静态向量，虽然找得快，但遇到复杂的长句或者多层条件，很容易抓不住重点。

Rerank 3.5 采用的是交叉编码（Cross-encoder）架构。说白了，它是在收到查询的当下，把用户的问题和候选文档绑在一起进行深度比对。

这种动态分析能够理解字面背后的上下文逻辑。前端可以放开手脚做宽泛检索，后端靠它把最相关的结果挑出来，直接给大模型减负，大幅压低幻觉概率。

专啃复杂业务的硬骨头

这一代模型最核心的进化是复杂推理与多语言能力。它支持超过 100 种语言，包括中文、英语、日语、韩语、阿拉伯语、德语和西班牙语等。

对跨国企业来说，这意味着一套系统能直接处理全球不同语言的资料库，不用再费劲针对每个语种单独折腾一套管道。

在垂直场景的测试中，Cohere 拿出了很强硬的数据。官方表示它在金融和电商基准测试中都达到了业内顶尖水平。

在电商领域，它能轻松读懂由键值对组成的商品属性，在复杂筛选下找出最符合意图的商品。在酒旅搜索以及排查 GitHub Issue 和项目管理工单时，它的定位精度也有明显提升。

工程落地上也走得很快。AWS 已经把 Rerank 3.5 接入了 Amazon Bedrock，还整合进了 Bedrock Knowledge Bases。开发者不需要自己折腾显卡和部署，单次 API 调用就能直接挂进现有的系统里。

为什么重要

对正在搭建企业知识库或智能客服的团队来说，换一个大语言模型伤筋动骨，但加一层重排模型往往是立竿见影的捷径。几行代码就能把检索精度提上一大截，这比一味调大提示词要划算得多，非常值得现在去尝试。

从行业竞争来看，AI 搜索的重心正在从单纯比拼底层大模型的参数量，转向比拼整套数据检索链路的工程质量。Cohere 一直在避开和大模型巨头正面硬碰，转而死磕企业检索中最脏、最累的精度问题，这步棋走得相当清醒。

不过我们认为，这种架构并非没有隐患。交叉编码的精度固然极高，但计算开销远大于传统的静态向量搜索。如果在高并发场景下对几百上千条候选文档做全量重排，延迟和账单都会成为现实问题，业务上线前必须做好初筛数量的平衡。