提示词就是一份规格说明。提示词工程就是把它写好,并检查模型是否照做。
工作原理
OpenAI 的指南把提示词工程定义为 “the process of writing effective instructions for a model”(译文:为模型编写有效指令的过程),使其 “consistently generates content that meets your requirements.”(译文:稳定地生成符合你要求的内容。)各家厂商的核心技巧大同小异:
| 技巧 | 做法 |
|---|---|
| 角色 | 把规则放进系统提示词(或 developer 消息),把请求放进 user 消息 |
| 结构 | 系统提示词按身份、指令、示例、上下文的顺序组织;用 Markdown 标题和 XML 标签标出各部分 |
| 示例 | 加入几组覆盖不同情况的输入输出对(少样本提示) |
| 推理 | 要求逐步思考(思维链),或使用思考模型 |
| 输出格式 | 要求固定格式,或在 API 支持时使用结构化输出 |
| 稳定性 | 固定模型版本,避免行为在你不知情时发生变化 |
Anthropic 的概览说,先准备好三样东西:明确的成功标准、对照这些标准进行测试的方法,以及第一版提示词草稿。实际上,这就意味着一套评测集。
一个简短的修改前后示例:
Before: Summarize this ticket.
After: You summarize support tickets for an engineering team.
Write 3 bullet points: the problem, the customer impact, the next step.
Use the customer's words for error messages. Do not guess at causes.
<ticket>...</ticket>
修改前只有一句”总结这张工单”。修改后说明了读者是工程团队,要求写 3 个要点(问题、对客户的影响、下一步),错误信息照用客户原话,并且不要猜测原因。
对智能体来说,提示词只是更大上下文中的一部分。Anthropic 关于上下文工程的文章把提示词工程,即 “methods for writing and organizing LLM instructions,“(译文:编写和组织大模型指令的方法)与上下文工程区分开来,后者管理模型看到的其他所有内容。
为什么重要
- 无需训练就能提升质量。 在微调或换更大的模型之前,改进提示词是最便宜的尝试。
- 费用。 系统提示词在每个请求中都会重新发送。删掉不影响输出的内容;参见减少提示词 token。
- 迁移。 为一个模型调好的提示词,换到另一个模型上可能表现不同。切换时请重新运行评测集。
在 BroadNet Inference 上
BroadNet 的对话模型接受标准的 Chat Completions messages 列表,所以 system、user、assistant 角色和少样本示例都照常可用。写代码之前,可以先在 Playground 里试提示词。需要阿拉伯语输出时,阿拉伯语提示词工程介绍了语体、方言、数字和从右到左的排版。
GLM 5.3 和 Qwen3.8 27B 的文档中列出了结构化输出。在 DeepSeek V4.1 Flash、GLM 5.3 和 Qwen3.8 27B 上,思考内容计入 max_tokens,所以”一步一步思考”这类提示词也需要在预算里留出空间。