系统提示词是请求中终端用户从来不会输入的那一部分。它告诉模型在为谁工作、应该怎样表现。
工作原理
在 Chat Completions 格式中,messages 是一个带 role 的对象列表。第一条通常承载常驻指令:
{"messages": [
{"role": "system", "content": "You are a support agent for an airline. Answer in two sentences. Never quote fares."},
{"role": "user", "content": "Can I change my flight?"}
]}
(示例中的系统提示词意思是:你是航空公司的客服,用两句话回答,绝不报票价;用户问:我可以改签吗?)
OpenAI 的 API 参考把 system 和 developer 消息都描述为 “developer-provided instructions that the model should follow, regardless of messages sent by the user”(译文:由开发者提供、无论用户发送什么消息,模型都应遵循的指令),并说在 o1 及更新的模型上,developer 消息取代了 system 消息。它的文本生成指南把 developer 消息的优先级放在 “ahead of user messages”(译文:高于用户消息)。Anthropic 则不把系统提示词作为一条消息,而是作为单独的顶层 system 参数,并指出哪怕只用一句话设定角色,也能 “focuses Claude’s behavior and tone”(译文:让 Claude 的行为和语气更聚焦)。
常见内容包括:角色、任务、硬性规则、输出格式,有时还有示例(少样本提示)。
为什么重要
- 费用。 系统提示词在每次调用时都作为输入 token 重新发送。2,000 token 的提示词发 10,000 次请求,就是 2,000 万个 token。
- 缓存。 系统提示词内容不变又位于最前面,是最容易缓存的前缀。把日期、用户名等会变化的数据放在它后面。为缓存设计提示词结构一文展示了顺序。
- 安全。 它是一层策略,而不是安全边界。文档或用户文本中的提示词注入仍然可能让模型偏离方向。
在 BroadNet Inference 上
BroadNet 提供 OpenAI chat completions 格式,所以 system 消息像上面那样放进 messages 即可。文档中的示例只用了一条 user 消息,也没有说明每个模型如何处理 system 或 developer 角色;请在你要上线的模型上测试提示词。
BroadNet 会在 usage 中报告 prompt_tokens_details.cached_tokens,并按缓存输入价格对这些 token 计费。以 DeepSeek V4.1 Flash 和上面的 2,000 万 token 为例:完全没有命中缓存时是 20 × $0.175,每次读取都命中缓存时是 20 × $0.0055。实际命中率介于两者之间;查看 cached_tokens 就能知道你的情况。第一个请求的写法见 curl 快速入门。
常见错误
- 把时间戳放在系统提示词开头。它每次调用都会变,会破坏缓存。
- 在系统提示词里存放机密信息。用户常常能让模型把它复述出来。