システムプロンプトは、リクエストのうちエンドユーザーが決して入力しない部分です。モデルに、誰のために働き、どう振る舞うかを伝えます。
しくみ
Chat Completions の形式では、messages は role を持つオブジェクトのリストです。最初の 1 つに常設の指示を入れるのが一般的です。
{"messages": [
{"role": "system", "content": "You are a support agent for an airline. Answer in two sentences. Never quote fares."},
{"role": "user", "content": "Can I change my flight?"}
]}
(例のシステムプロンプトは「航空会社のサポート担当として 2 文で答え、運賃は絶対に提示しない」、ユーザーの質問は「便を変更できますか?」という意味です。)
OpenAI の API リファレンスは、system メッセージと developer メッセージのどちらも「developer-provided instructions that the model should follow, regardless of messages sent by the user」(訳:ユーザーが送るメッセージにかかわらず、モデルが従うべき開発者提供の指示)と説明し、o1 以降のモデルでは developer メッセージが system メッセージに置き換わるとしています。テキスト生成ガイドでは、developer メッセージの優先順位は「ahead of user messages」(訳:ユーザーメッセージより上)です。Anthropic はシステムプロンプトをメッセージではなく、トップレベルの独立した system パラメーターとして受け取り、役割を決める 1 文だけでも「focuses Claude’s behavior and tone」(訳:Claude の振る舞いと口調を絞り込む)と述べています。
よく入れる内容は、役割、タスク、厳格なルール、出力形式、場合によっては例(フューショットプロンプティング)です。
なぜ重要か
- コスト。 システムプロンプトは毎回の呼び出しで入力トークンとして送り直されます。2,000 トークンのプロンプトを 10,000 回送れば 2,000 万トークンです。
- キャッシュ。 内容が同じで先頭にあるので、システムプロンプトは最もキャッシュしやすいプレフィックスです。日付やユーザー名などの変わるデータはその後ろに置いてください。順序はキャッシュを意識したプロンプト構成の記事にあります。
- 安全性。 システムプロンプトはポリシーの層であって、セキュリティの境界ではありません。ドキュメントやユーザーのテキストに含まれるプロンプトインジェクションで、モデルが脱線することはあります。
BroadNet Inference の場合
BroadNet は OpenAI の chat completions の形式を提供しているので、system メッセージは上の例のように messages に入れます。ドキュメントの例は user メッセージ 1 つだけで、各モデルが system ロールや developer ロールをどう扱うかは書かれていません。本番で使うモデルでプロンプトをテストしてください。
BroadNet は usage の中で prompt_tokens_details.cached_tokens を報告し、そのトークンをキャッシュ入力の単価で課金します。上の 2,000 万トークンを DeepSeek V4.1 Flash で計算すると、まったくキャッシュされない場合は 20 × $0.175、すべての読み込みがキャッシュにヒットした場合は 20 × $0.0055 です。実際のヒット率はその間にあります。cached_tokens を見れば自分の数字がわかります。最初のリクエストは curl クイックスタートにあります。
よくある間違い
- システムプロンプトの先頭にタイムスタンプを入れること。呼び出しのたびに変わり、キャッシュが効かなくなります。
- システムプロンプトに秘密情報を入れること。ユーザーがモデルにそれを繰り返させられることはよくあります。