---
title: "什么是重排序？RAG 中的交叉编码器 Reranker 详解 | BroadRouter"
description: "重排序用更精确的模型（通常是交叉编码器）对初次检索的前几名结果重新打分，再交给大模型。它是如何工作的。"
url: https://broadrouter.com/zh/glossary/reranking/
lang: zh-Hans
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

本页由英文原文借助 AI 翻译。 [阅读英文原文](https://broadrouter.com/glossary/reranking/) (2026-11-15 更新).

# 重排序（reranking）

更新于 2026-11-15

重排序是检索的第二阶段：用一个更精确但更慢的模型（通常是交叉编码器），对初次检索得到的每个“查询-候选文档”对打分并重新排序，只把最相关的少数几条交给语言模型。

又称： 重排序、重排、精排、重排模型、Rerank 模型、交叉编码器、reranking、reranker、rerank、re-ranking、cross-encoder reranker

初次检索速度快，但比较粗糙。重排序在一个短名单上多花些算力，把顺序排对。

## 工作原理

一个两阶段流水线：

1.  **召回。** 用一种快速方法，比如[向量数据库](https://broadrouter.com/zh/glossary/vector-database/)中的[嵌入向量](https://broadrouter.com/zh/glossary/embeddings/)、[BM25](https://broadrouter.com/zh/glossary/bm25/) 或[混合检索](https://broadrouter.com/zh/glossary/hybrid-search/)，返回前 50 到 100 个候选。
2.  **重排序。** 重排序模型把查询和每个候选放在一起读，给每一对一个相关性分数。保留前 3 到 10 个。

大多数重排序模型是交叉编码器。Sentence Transformers 的文档说，交叉编码器 “Generally provides superior performance compared to a Sentence Transformer (a.k.a. bi-encoder) model,“（译文：通常比 Sentence Transformer（即双编码器）模型性能更好，）但 “Often slower”（译文：往往更慢），因为 “it requires computation for each pair rather than each text.”（译文：它需要对每一对而不是每一段文本进行计算。）文档称交叉编码器 “often used to re-rank the top-k results”（译文：常用于对前 k 个结果重新排序），这些结果来自双编码器。

```python
from sentence_transformers import CrossEncoder

model = CrossEncoder("cross-encoder/ms-marco-MiniLM-L6-v2")
ranks = model.rank(query, passages)   # passages from your first-stage search
top = [passages[r["corpus_id"]] for r in ranks[:5]]
```

这种方法至少可以追溯到 Nogueira 和 Cho（2019），他们把 BERT 微调成段落重排序模型，并报告在 MS MARCO 段落检索上，MRR@10 比此前的最佳结果相对提升了 27%。

也有托管的重排序 API。Cohere 的 rerank 端点 “takes in a query and a list of texts and produces an ordered array with each text assigned a relevance score,“（译文：接收一个查询和一组文本，输出一个有序数组，并为每段文本分配一个相关性分数，）分数归一化到 0 到 1 之间，并可用 `top_n` 字段限制返回数量。

## 为什么重要

-   **回答质量。** 大模型只能用你发给它的内容。排序更好，正确的文本块才会进入提示词。
-   **token 成本。** 有了好的重排序模型，你可以只发 3 个文本块而不是 10 个，每个问题都能省下输入 token。
-   **延迟。** 重排序多了一个步骤。它的开销随候选数量增长，所以名单要短。

## 在 BroadNet Inference 上

BroadNet 不提供 rerank 端点，也不提供 embeddings 端点。你可以自己运行交叉编码器（例如用 Sentence Transformers），或使用托管的重排序 API，然后通过兼容 OpenAI 的 Chat Completions API，把排名靠前的文本块发给 BroadNet 对话模型。

对于阿拉伯语文档，请确认你的重排序模型是在阿拉伯语或多语言数据上训练的；[阿拉伯语 RAG 检索](https://broadrouter.com/zh/blog/arabic-rag-search/)一文介绍了流水线的其余部分。如果你的语料库不大，[DeepSeek V4.1 Flash](https://broadrouter.com/zh/models/deepseek-v4.1-flash/) 这样的长上下文模型也许能让你省掉检索；参见[长上下文与 RAG 对比](https://broadrouter.com/zh/blog/long-context-vs-rag/)。

## 常见问题

### 为什么不直接用交叉编码器做全部检索？

它要对每个“查询-文档”对单独打分，在整个文档库上运行太慢了。第一阶段把数百万文档缩小到几十或几百条，重排序模型只给这些排序。

### 大模型能当重排序模型吗？

能。你可以让对话模型给候选项打分或排序。但它通常比小型交叉编码器更慢，每次查询的成本也更高，所以请在你的数据上两者都测一测。

### 应该对多少个候选项做重排序？

要足够多，使正确答案通常在其中。统计正确的文本块出现在第一阶段前 20、50 和 100 名中的频率，选召回率够好的最小数字。

## 另请参阅

-   [RAG（检索增强生成）](https://broadrouter.com/zh/glossary/rag/) (术语)
-   [嵌入向量（embeddings）](https://broadrouter.com/zh/glossary/embeddings/) (术语)
-   [混合检索（hybrid search）](https://broadrouter.com/zh/glossary/hybrid-search/) (术语)
-   [BM25](https://broadrouter.com/zh/glossary/bm25/) (术语)
-   [文本分块（chunking）](https://broadrouter.com/zh/glossary/chunking/) (术语)
-   [向量数据库（vector database）](https://broadrouter.com/zh/glossary/vector-database/) (术语)
-   [通过 OpenAILike 在 LlamaIndex 中使用 BroadNet Inference](https://broadrouter.com/zh/guides/llamaindex-openailike/) (指南)
-   [阿拉伯语 RAG：真正有效的规范化、分块与检索](https://broadrouter.com/zh/blog/arabic-rag-search/) (文章)
-   [长上下文还是 RAG：百万 token 什么时候能取代向量数据库](https://broadrouter.com/zh/blog/long-context-vs-rag/) (文章)

用你的真实业务负载试一试。 新账户可获得 US$5 初始额度，用于 Gemma和转写。DeepSeek、GLM和Qwen3.8 需要先充值。

[开始使用](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-glossary-reranking&utm_content=page-cta) ·

**来源**

-   [Nogueira 和 Cho，Passage Re-ranking with BERT，arXiv 1901.04085（2026-11-15 查阅）](https://arxiv.org/abs/1901.04085)
-   [Sentence Transformers 文档：交叉编码器用法（2026-11-15 查阅）](https://sbert.net/docs/cross_encoder/usage/usage.html)
-   [Cohere API 参考：rerank（2026-11-15 查阅）](https://docs.cohere.com/reference/rerank)
