BroadRouter

少样本提示(few-shot prompting)

更新于

少样本提示是一种在真实输入之前,先在提示词中放入少量“输入—输出”示例的技巧,让语言模型从中推断任务和格式。模型权重不会改变;零样本不用示例,单样本只用一个。

又称: 少样本学习、小样本提示、少样本示例、上下文示例、单样本提示、few-shot、few-shot prompting、few-shot learning、multishot prompting、in-context examples、one-shot prompting

示范胜过说教。几个示例往往比一段规则更快地把格式和语气调对。

工作原理

Brown 等人的 GPT-3 论文让这个术语流行起来。论文测试了一个 1750 亿参数的模型,任务 “specified purely via text interaction with the model”(译文:完全通过与模型的文本交互来指定),不做梯度更新或微调,发现少样本表现随模型规模显著提升。论文定义了三种设置:

设置 提示词中的示例
零样本(zero-shot) 没有,只有指令
单样本(one-shot) 一个
少样本(few-shot) 若干个,受上下文窗口限制

一个给客服工单打标签的少样本提示可能是这样的:

Ticket: "My card was charged twice." -> billing
Ticket: "The app crashes on login." -> bug
Ticket: "Can you add dark mode?" -> feature_request
Ticket: "I was billed after cancelling." ->

模型会延续这个模式。Anthropic 的指南称示例是 “one of the most reliable ways to steer”(译文:最可靠的引导方式之一)格式、语气和结构的手段,并要求示例相关、多样,并用标签包裹起来,让模型能把它们和指令区分开。

为什么重要

  • 控制格式。 示例能展示规则覆盖不到的边界情况,比如空字段该怎么写。如果需要严格的 JSON,请搭配结构化输出。
  • 费用。 每个示例在每次调用时都会作为输入重新发送。五个 200 token 的示例,每次请求会增加 1,000 个 token。放在固定前缀里时,它们可以按缓存输入 token 计费。
  • 推理。 展示步骤而不只是答案的示例,就是思维链提示。
  • 何时停下。 如果你需要几百个示例,微调的单次调用成本可能比每次都发送它们更低。

在 BroadNet Inference 上

少样本提示不需要任何特殊的 API 功能,它就是 messages 里的普通文本。BroadNet 会在 usage 中返回 cached_tokens,你可以借此检查示例块是否从缓存读取。在按量付费密钥上,缓存价格低于输入价格;以 DeepSeek V4.1 Flash 为例,每 1M token 分别是 $0.0055 和 $0.175。阿拉伯语任务请参见阿拉伯语提示词工程;用示例做文档信息抽取,请参见阿拉伯语发票指南。

常见错误

  • 所有示例都是同一个标签或同样的长度。模型会照搬这种偏差。
  • 每次请求轮换示例。这会破坏缓存前缀,也让结果更难比较。

常见问题

少样本提示该放几个示例?

Anthropic 建议用 3 到 5 个以获得最佳效果。示例越多,每次调用的输入 token 就越多,所以一旦质量不再提升,就别再加了。

少样本提示和微调是一回事吗?

不是。少样本示例放在提示词里,每次请求都要重新发送。微调一次性改变模型权重,之后就不需要再发送这些示例。

示例应该放在系统提示词里,还是作为对话轮次?

两种都可以。把它们放在靠近开头的固定位置,形成稳定、可缓存的前缀。

以 Markdown 格式阅读问 ChatGPT问 Claude问 Perplexity