BroadRouter

入力トークンと出力トークン(input and output tokens)

更新日

入力トークンとは、モデルがリクエストで読むトークンで、システムプロンプト、会話履歴、ツール定義、画像を含みます。出力トークンは、推論を含めモデルが返答として生成するトークンです。LLM API は通常この 2 つを別の単価で課金し、出力のほうが高額です。

別名: 入力トークン、出力トークン、プロンプトトークン、補完トークン、input tokens、output tokens、prompt tokens、completion tokens

LLM のリクエストには 2 つの側面があります。送るものと、返ってくるものです。API はどちらもトークンで数え、ほとんどの場合それぞれ異なる単価で課金します。

しくみ

入力は、リクエストに含まれるすべてです。システムプロンプト、それまでのすべてのメッセージ、ツール定義、ツールの結果、ドキュメント、画像が該当します。複数ターンのチャットでは毎ターン履歴全体を送り直すため、会話が進むほど入力が増えます。

出力は、モデルが生成するすべてです。目に見える回答、ツール呼び出し、そして推論モデルでは表に出ない推論トークンが含まれます。

usage ブロックは両方を報告します。

"usage": {
  "prompt_tokens": 18000,
  "completion_tokens": 900,
  "prompt_tokens_details": { "cached_tokens": 15000 },
  "completion_tokens_details": { "reasoning_tokens": 600 }
}

1 回のリクエストのコストは次のとおりです。

(new input × input price) + (cached input × cached price) + (output × output price)。つまり「新しい入力 × 入力単価 + キャッシュ入力 × キャッシュ単価 + 出力 × 出力単価」で、単価はいずれも 100 万トークンあたりです。

なぜ重要か

2 つの比率によって、どちらの単価が効いてくるかが決まります。チャットアシスタントは、短い質問に対して数百トークンを出力する程度かもしれません。コーディングエージェントは毎ターン大きなリポジトリのコンテキストを送り直し、短いパッチを書くので、入力が出力の 20 倍以上になることもあります。エージェントの場合、請求額の大半は入力単価とキャッシュ入力の単価で決まります。

それでも出力には注意が必要です。推論モデルは回答よりも考えることに多くのトークンを使うことがあり、それらは出力として課金されます。追跡しているモデルにおける出力と入力の典型的な単価比は、LLM API 料金インデックスにあります。

BroadNet Inference の場合

公開されている料金ファイルによる、100 万トークンあたりの単価です。

モデル 入力 キャッシュ入力 出力
DeepSeek V4.1 Flash $0.175 $0.0055 $0.52
GLM 5.3 $0.78 $0.173 $3.46
Qwen3.8 27B $0.175 $0.0435 $2.17
BroadNet Gemma 4 VL 26B $0.10 — $0.22

BroadNet の試算例では、フルタイムのコーディングエージェントが月に 1,000 百万(10 億)入力トークンを送り、キャッシュヒット率は 80%、出力トークンは 50 百万(5,000 万)です。DeepSeek V4.1 Flash のトークン課金では $65.40 になります。定額プランならメーターがなくなり、Full Moon は 1 セッションあたり月 $60 です。ご自身の数値は料金計算ツールで比較するか、定額とトークン課金の比較をお読みください。

よくある間違い

  • 目に見える回答だけで料金を見積もり、推論トークンを忘れること。
  • 履歴が増える速さを見落とすこと。チャットの 30 ターン目には、30 ターン分の入力が乗っていることがあります。

よくある質問

プロンプトトークンと入力トークンの違いは何ですか?

違いはありません。Chat Completions 形式では prompt_tokens と completion_tokens と呼びます。OpenAI の Responses API や Anthropic の Messages API など、新しい API では input_tokens と output_tokens と呼びます。

出力のほうが入力より高いのはなぜですか?

モデルはプロンプト全体を 1 回の並列処理で読みますが、出力は 1 トークンずつ生成します。そのため出力トークンは 1 つあたりの GPU 時間が多くかかります。

ツール定義も課金されますか?

はい。ツールのスキーマとツールの結果はプロンプトの一部なので、それを含むすべてのリクエストで入力トークンになります。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く