---
title: "什么是大模型的频率惩罚和存在惩罚？ | BroadRouter"
description: "频率惩罚和存在惩罚会降低模型已用过的 token 再次出现的概率，以减少重复。两者的区别、取值范围，以及 repetition_penalty。"
url: https://broadrouter.com/zh/glossary/frequency-and-presence-penalty/
lang: zh-Hans
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

本页由英文原文借助 AI 翻译。[阅读英文原文](https://broadrouter.com/glossary/frequency-and-presence-penalty/)（2026-11-15 更新）。

# 频率惩罚与存在惩罚（frequency / presence penalty）

更新于 2026-11-15

频率惩罚与存在惩罚是一类采样设置，会降低输出中已出现 token 的分数。存在惩罚在 token 出现过一次后就生效；频率惩罚随每次重复而加大。在 OpenAI 的 API 中，两者的取值范围都是 -2.0 到 2.0，默认值为 0。

又称： 频率惩罚、存在惩罚、重复惩罚、话题惩罚、frequency penalty、presence penalty、frequency\_penalty、presence\_penalty、repetition penalty

陷入循环的模型会一遍遍重复同一句话，直到 token 用完。惩罚参数是在采样阶段施加的一种粗放修正。

## 工作原理

在抽取每个下一个 [token](https://broadrouter.com/zh/glossary/token/) 之前，服务器会调整已生成 token 的分数。

| 设置 | vLLM 文档所说的惩罚对象 | 范围与默认值 |
| --- | --- | --- |
| `presence_penalty` | 按 token “based on whether they appear in the generated text so far”（译文：是否已在已生成文本中出现）施加惩罚 | OpenAI：-2.0 到 2.0，默认 0 |
| `frequency_penalty` | 按 token “based on their frequency in the generated text so far”（译文：在已生成文本中的出现频率）施加惩罚 | OpenAI：-2.0 到 2.0，默认 0 |
| `repetition_penalty` | 按 token “based on whether they appear in the prompt and the generated text so far”（译文：是否已在提示词和已生成文本中出现）施加惩罚 | vLLM 和 Hugging Face：1.0 表示不惩罚 |

正值会让模型避开用过的 token；负值则让重复更可能出现。OpenAI 说，正的频率惩罚会降低 “the model’s likelihood to repeat the same line verbatim”（译文：模型逐字重复同一行的可能性），正的存在惩罚会提高 “the model’s likelihood to talk about new topics”（译文：模型谈论新话题的可能性）。对于 `repetition_penalty`，vLLM 说大于 1 的值倾向于新 token，小于 1 的值倾向于重复。Hugging Face 的文档在介绍这一惩罚时引用了 CTRL 论文。

```json
{"model": "...", "messages": [...], "frequency_penalty": 0.5, "presence_penalty": 0.3}
```

## 为什么重要

-   **长输出中的循环。** 智能体和长摘要可能陷入重复文本。小幅惩罚能打破循环，而硬性的 [max\_tokens](https://broadrouter.com/zh/glossary/max-tokens/) 上限能控制损失。
-   **副作用。** 惩罚作用于 token，而不是想法。惩罚太强可能让模型无法复用它必须用到的词，比如代码里的变量名、JSON 的键，或者一段阿拉伯语文本中按设计就要重复出现的名字。从 0 开始，小步调整。
-   **与采样设置重叠。** [温度](https://broadrouter.com/zh/glossary/temperature/)和 [top-p](https://broadrouter.com/zh/glossary/top-p/) 也会改变多样性。测试时一次只改一个设置。

## 在 BroadNet Inference 上

BroadNet 的 [API 参考文档](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-glossary-frequency-and-presence-penalty&utm_content=body)没有说明 `frequency_penalty`、`presence_penalty` 或 `repetition_penalty`。依赖它们之前请先测试：用一个容易重复的提示词，分别带上和不带这个字段发送，比较结果。如果长时间运行中出现重复，可以试试更清晰的提示词、更低的输出上限，或者停止运行并从检查点恢复；[通宵运行智能体](https://broadrouter.com/zh/blog/overnight-coding-agent-runs/)一文介绍了这种做法。

## 常见错误

-   用很高的惩罚值来解决提示词本身的问题。重复往往意味着模型没有明确的结束点。
-   在结构化输出上使用惩罚，而那里的键本来就必须重复出现。

## 常见问题

### 频率惩罚和存在惩罚有什么区别？

存在惩罚问的是“这个 token 出现过吗？”，只作用一次。频率惩罚问的是“出现过几次？”，随每次重复而加大。vLLM 的描述是：分别按 token 是否已在当前文本中出现、以及出现的频率来施加惩罚。

### repetition\_penalty 是同一个东西吗？

不是。它是 vLLM 和 Hugging Face 使用的另一个乘数，1.0 表示不惩罚。vLLM 会把它作用于提示词和输出中的 token，而不只是输出。

### BroadNet Inference 支持这些惩罚参数吗？

BroadNet 的 API 参考没有说明 frequency\_penalty、presence\_penalty 或 repetition\_penalty。依赖它们之前请先测试。

## 另请参阅

-   [温度（temperature）](https://broadrouter.com/zh/glossary/temperature/)（术语）
-   [Top-p（核采样，nucleus sampling）](https://broadrouter.com/zh/glossary/top-p/)（术语）
-   [Token（词元）](https://broadrouter.com/zh/glossary/token/)（术语）
-   [Logprobs（对数概率）](https://broadrouter.com/zh/glossary/logprobs/)（术语）
-   [seed 参数（随机种子）](https://broadrouter.com/zh/glossary/seed-parameter/)（术语）
-   [如何安全地让编程智能体通宵无人值守运行](https://broadrouter.com/zh/blog/overnight-coding-agent-runs/)（文章）
-   [智能体 token 预算：智能体循环的 token 都花在哪里](https://broadrouter.com/zh/blog/agent-token-budget/)（文章）

用你的真实业务负载试一试。新账户可获得 US$5 初始额度，用于 Gemma和转写。DeepSeek、GLM和Qwen3.8 需要先充值。

[开始使用](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-glossary-frequency-and-presence-penalty&utm_content=page-cta) ·

**来源**

-   [OpenAI API 参考：创建对话补全（frequency\_penalty、presence\_penalty）（2026-11-15 查阅）](https://developers.openai.com/api/reference/resources/chat/subresources/completions/methods/create)
-   [vLLM 文档：SamplingParams（存在、频率与重复惩罚）（2026-11-15 查阅）](https://docs.vllm.ai/en/latest/api/vllm/sampling_params/)
-   [Keskar 等，CTRL: A Conditional Transformer Language Model for Controllable Generation，arXiv 1909.05858（2026-11-15 查阅）](https://arxiv.org/abs/1909.05858)
-   [Hugging Face Transformers：GenerationConfig（repetition\_penalty）（2026-11-15 查阅）](https://huggingface.co/docs/transformers/main_classes/text_generation)
