---
title: "什么是上下文窗口？大模型上下文长度限制详解 | BroadRouter"
description: "上下文窗口是大模型单次请求能处理的最大 token 数，提示词和输出合计。哪些内容会计入、窗口满了会怎样，以及各模型的窗口大小。"
url: https://broadrouter.com/zh/glossary/context-window/
lang: zh-Hans
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

本页由英文原文借助 AI 翻译。 [阅读英文原文](https://broadrouter.com/glossary/context-window/) (2026-11-14 更新).

# 上下文窗口（context window）

更新于 2026-11-14

上下文窗口是语言模型在单次请求中能处理的最大 token 数。它涵盖提示词、对话历史、工具定义、图片以及生成的输出（包括思考 token）。放不下的内容必须删减、摘要，或拆分到多个请求中。

又称： 上下文长度、上下文窗口大小、上下文限制、token 上限、最大上下文、context window、context length、context size、token limit、context limit

上下文窗口是模型在一次请求中的工作记忆。模型需要看到的一切，以及它写回的一切，都必须装进这个窗口。

## 工作原理

窗口以 [token](https://broadrouter.com/zh/glossary/token/) 计量。Anthropic 的文档把它描述为 “all the text a language model can reference when generating a response, including the response itself.”（译文：语言模型在生成回答时可以参考的全部文本，包括回答本身。）其中包括：

-   系统提示词和每一条消息，包括之前的轮次；
-   工具定义和工具结果；
-   文档和图片；
-   输出，包括隐藏的[思考 token](https://broadrouter.com/zh/glossary/reasoning-tokens/)。

所以这是一份共享的预算。在 1,048,576 token 的窗口里，一个 1,040,000 token 的提示词只给思考和回答留下约 8,000 个 token。设置 [`max_tokens`](https://broadrouter.com/zh/glossary/max-tokens/) 时要把这一点考虑进去。

模型不会记住之前的请求。聊天之所以感觉是连续的，只是因为客户端每一轮都会重新发送历史记录，所以长对话会一步步把窗口填满。

## 为什么重要

-   **能力。** 大窗口让一次请求就能装下整个代码库、一整套合同或数小时的转写文本，模型可以把其中的事实串联起来。
-   **费用。** 在按 token 计费的密钥上，窗口里的每个 token 都按输入计费。[缓存](https://broadrouter.com/zh/glossary/cached-input-tokens/)能降低重复前缀的价格，但缓存的 token 仍然占用窗口。
-   **质量。** 内容越多不一定越好。Anthropic 把超长提示词中准确率下降的现象称为 “context rot”（上下文腐化）。请精选发送的内容。
-   **延迟。** 提示词越长，第一个 token 出现前的等待时间越长。

## 在 BroadNet Inference 上

| 模型 | 上下文窗口 |
| --- | --- |
| [DeepSeek V4.1 Flash](https://broadrouter.com/zh/models/deepseek-v4.1-flash/) | 1,048,576 token |
| [GLM 5.3](https://broadrouter.com/zh/models/glm-5.3/) | 1,048,576 token |
| [Qwen3.8 27B](https://broadrouter.com/zh/models/qwen3.8-27b/) | 262,144 token |
| [BroadNet Gemma 4 VL 26B](https://broadrouter.com/zh/models/gemma-4-vl-26b/) | 32,768 token |

窗口同时涵盖提示词和回答，BroadNet 不会裁剪你的上下文。DeepSeek V4.1 Flash、GLM 5.3 和 Qwen3.8 27B 会先思考再回答，所以要留出空间：窗口塞满、输出预算又很小时，会返回空回复。参见[为什么思考模型会返回空回答](https://broadrouter.com/zh/guides/reasoning-tokens-empty-response/)。

不限量套餐在 DeepSeek V4.1 Flash 上提供完整的 1M token 窗口。什么时候这么大的上下文比检索更合适，请阅读 [1M token 上下文窗口指南](https://broadrouter.com/zh/blog/million-token-context-window-guide/)。

## 常见错误

-   把窗口当成输出长度。输出上限要单独用 `max_tokens` 设置。
-   永远重发完整历史。在窗口填满之前，先摘要或丢弃旧的轮次。

## 常见问题

### 提示词超过上下文窗口会怎样？

API 会拒绝该请求，通常返回 400 错误。例如 Anthropic 会返回 "prompt is too long"（译文：提示词过长）。有些聊天应用会自动帮你裁掉旧消息，但大多数 API 不会。

### 上下文窗口越大越好吗？

不一定。长提示词费用更高、处理更慢，而且 Anthropic 指出，随着 token 数增加，准确率和信息召回可能下降。只发送任务真正需要的内容。

### BroadNet 会裁剪我的上下文吗？

不会。BroadNet Inference 不会裁剪你的上下文。如果请求放不下，需要你自己缩短。

## 另请参阅

-   [Token（词元）](https://broadrouter.com/zh/glossary/token/) (术语)
-   [max\_tokens（最大输出 token 数）](https://broadrouter.com/zh/glossary/max-tokens/) (术语)
-   [思考 token（reasoning tokens）](https://broadrouter.com/zh/glossary/reasoning-tokens/) (术语)
-   [缓存输入 token（cached input tokens）](https://broadrouter.com/zh/glossary/cached-input-tokens/) (术语)
-   [KV 缓存（KV cache）](https://broadrouter.com/zh/glossary/kv-cache/) (术语)
-   [上下文腐化（context rot）](https://broadrouter.com/zh/glossary/context-rot/) (术语)
-   [中间迷失（lost in the middle）](https://broadrouter.com/zh/glossary/lost-in-the-middle/) (术语)
-   [RAG（检索增强生成）](https://broadrouter.com/zh/glossary/rag/) (术语)
-   [上下文压缩（context compaction）](https://broadrouter.com/zh/glossary/context-compaction/) (术语)
-   [推理模型为什么返回空回答](https://broadrouter.com/zh/guides/reasoning-tokens-empty-response/) (指南)
-   [百万 token 上下文窗口什么时候值得用（什么时候不值得）](https://broadrouter.com/zh/blog/million-token-context-window-guide/) (文章)
-   [缓存输入 token 详解：如何降低大模型 API 账单](https://broadrouter.com/zh/blog/cached-input-tokens-explained/) (文章)

用你的真实业务负载试一试。 新账户可获得 US$5 初始额度，用于 Gemma和转写。DeepSeek、GLM和Qwen3.8 需要先充值。

[开始使用](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-glossary-context-window&utm_content=page-cta) ·

**来源**

-   [Anthropic：上下文窗口](https://platform.claude.com/docs/en/build-with-claude/context-windows)
-   [OpenAI：推理模型（思考 token 占用上下文窗口）](https://developers.openai.com/api/docs/guides/reasoning)
-   [BroadNet Inference 机器可读价格与上下文长度（pricing.json） （英文）](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-glossary-context-window&utm_content=sources)
