Cohere、検索・RAG向け「Rerank 3 Nimble」発表：速度3倍

企業向け検索や RAG（検索拡張生成）システムを運用する際、検索結果の並び替えを担うリランキング処理は、精度とレイテンシのトレードオフになりがちです。

Cohere は 7 月 23 日、同社のリランキング基盤モデルシリーズの最新版となる「Rerank 3 Nimble」を発表しました。

精度を保ったまま約3倍の高速化

Rerank 3 Nimble は、企業内検索や RAG システムの強化を目的として開発されたモデルです。

公式発表によると、従来の Rerank 3 と比較して約 3 倍の処理速度を実現しながら、高い精度を維持しています。

なお、提供プラットフォームは限定されており、現時点では Amazon SageMaker のみで利用可能となっています。

なぜ重要か

今回のリリースは、実運用におけるボトルネックに的を絞った堅実なアプローチだと考えられます。

RAG の現場では、回答の精度だけでなく、レスポンスの遅さがユーザー体験を損なう要因になりがちです。検索結果の絞り込み処理が 3 倍速くなることは、高負荷環境を抱える開発者にとって直接的なメリットになります。

一方で、現時点では Amazon SageMaker 独占提供となっているため、他社クラウドやオンプレミス環境を利用している企業にとっては導入のハードルが残る形です。