---
title: "什么是 RAG？检索增强生成原理详解 | BroadRouter"
description: "RAG 从你自己的文档中检索相关段落并加入提示词，让大模型依据这些内容回答。检索流程如何运作，以及何时长上下文更合适。"
url: https://broadrouter.com/zh/glossary/rag/
lang: zh-Hans
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

本页由英文原文借助 AI 翻译。 [阅读英文原文](https://broadrouter.com/glossary/rag/) (2026-11-14 更新).

# RAG（检索增强生成）

更新于 2026-11-14

RAG（检索增强生成）是一种模式：应用先从外部存储（例如搜索引擎或向量索引）中检索与问题相关的段落，再把它们加入提示词，让语言模型依据这些文本回答，而不只是凭记忆作答。

又称： 检索增强生成、检索增强、RAG 检索增强生成、知识库问答、retrieval-augmented generation、retrieval augmented generation、RAG pipeline、retrieval-augmented LLM

RAG 让模型开卷答题：在它回答之前，你的代码先查出相关的页面，放进提示词里。

## 工作原理

这个术语来自 Lewis 等人（2020）。他们把一个生成模型（“parametric memory”，参数化记忆）与 “a dense vector index of Wikipedia”（译文：维基百科的稠密向量索引，“non-parametric memory”，非参数化记忆）组合起来，通过神经检索器访问后者，并报告在开放域问答上的效果优于只依赖自身权重的模型。

基于大模型 API 的现代 RAG 流程通常是这样的：

1.  **建立索引。** 把文档切分成文本块，把每块转换成[嵌入向量](https://broadrouter.com/zh/glossary/embeddings/)，存进[向量数据库](https://broadrouter.com/zh/glossary/vector-database/)，通常还会同时建立关键词索引。
2.  **检索。** 把用户的问题也转换成嵌入向量，取出最匹配的文本块，比如 5 到 20 个。
3.  **生成。** 把这些文本块放进提示词，并指示模型只依据它们回答、注明出处，然后发给对话模型。

模型本身从不搜索。检索质量决定了上限：如果没检索到正确的段落，模型就无法使用它。

## 为什么重要

-   **时效性。** 模型的权重停留在训练截止时间。RAG 让它可以依据今天的价格表或政策来回答。
-   **费用。** 发送 10 个文本块所需的输入 token，远少于每个问题都发送整个语料。
-   **可追溯。** 回答可以引用其来源段落，这有助于[事实依据](https://broadrouter.com/zh/glossary/grounding/)，也让[幻觉](https://broadrouter.com/zh/glossary/hallucination/)更容易被发现。
-   **顺序很重要。** 模型对长提示词开头和结尾的利用要好于中间。把最好的段落放在前面。参见[中间迷失](https://broadrouter.com/zh/glossary/lost-in-the-middle/)。

## 在 BroadNet Inference 上

BroadNet 负责生成这一步。它的文档没有列出嵌入向量端点，所以检索器需要单独的嵌入模型或关键词搜索。DeepSeek V4.1 Flash 和 GLM 5.3 最多接受 1,048,576 token 的上下文，因此宽松的检索（或者小语料干脆不做检索）是可行的。[长上下文与 RAG 对比](https://broadrouter.com/zh/blog/long-context-vs-rag/)一文从费用和召回两方面比较了两种方案，[阿拉伯语 RAG 搜索](https://broadrouter.com/zh/blog/arabic-rag-search/)则介绍了阿拉伯语的文本规范化和混合检索。

## 常见错误

-   问题出在检索器上，却去怪模型。请记录每个回答检索到了哪些文本块。
-   文本块把表格或句子切成了两半。
-   没有指示模型在找不到时说”未找到”。没有这条指令，模型就会凭记忆填补空白。

## 常见问题

### RAG 和微调是一回事吗？

不是。RAG 在请求时把文档加入提示词，不改变模型本身。微调会改变模型的权重。RAG 更容易更新：重新索引一份文档即可，不必重新训练。

### 做 RAG 一定需要向量数据库吗？

不一定。关键词搜索、SQL 查询或小型内存索引都可以充当检索器。文档很多、需要语义匹配时，向量数据库才更有帮助。

### 1M token 的上下文窗口能取代 RAG 吗？

有时可以。如果整个语料装得下，而且会配合缓存被频繁查询，可以全部发送。对于规模大或变化快的语料，按每个问题计算，检索仍然更便宜、更快。

## 另请参阅

-   [嵌入向量（embeddings）](https://broadrouter.com/zh/glossary/embeddings/) (术语)
-   [向量数据库（vector database）](https://broadrouter.com/zh/glossary/vector-database/) (术语)
-   [上下文窗口（context window）](https://broadrouter.com/zh/glossary/context-window/) (术语)
-   [事实依据（grounding）](https://broadrouter.com/zh/glossary/grounding/) (术语)
-   [AI 幻觉（hallucination）](https://broadrouter.com/zh/glossary/hallucination/) (术语)
-   [中间迷失（lost in the middle）](https://broadrouter.com/zh/glossary/lost-in-the-middle/) (术语)
-   [文本分块（chunking）](https://broadrouter.com/zh/glossary/chunking/) (术语)
-   [重排序（reranking）](https://broadrouter.com/zh/glossary/reranking/) (术语)
-   [混合检索（hybrid search）](https://broadrouter.com/zh/glossary/hybrid-search/) (术语)
-   [BM25](https://broadrouter.com/zh/glossary/bm25/) (术语)
-   [用 OpenAI Python SDK 调用 BroadNet Inference](https://broadrouter.com/zh/guides/openai-python-sdk/) (指南)
-   [长上下文还是 RAG：百万 token 什么时候能取代向量数据库](https://broadrouter.com/zh/blog/long-context-vs-rag/) (文章)
-   [阿拉伯语 RAG：真正有效的规范化、分块与检索](https://broadrouter.com/zh/blog/arabic-rag-search/) (文章)
-   [百万 token 上下文窗口什么时候值得用（什么时候不值得）](https://broadrouter.com/zh/blog/million-token-context-window-guide/) (文章)

用你的真实业务负载试一试。 新账户可获得 US$5 初始额度，用于 Gemma和转写。DeepSeek、GLM和Qwen3.8 需要先充值。

[开始使用](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-glossary-rag&utm_content=page-cta) ·

**来源**

-   [Lewis 等：Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks（arXiv，NeurIPS 2020）](https://arxiv.org/abs/2005.11401)
-   [OpenAI：向量嵌入指南（搜索用例）](https://developers.openai.com/api/docs/guides/embeddings)
-   [BroadNet Inference API 参考文档：模型 ID 与上下文 （英文）](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-glossary-rag&utm_content=sources#models)
