BroadRouter

Input at output token (input and output tokens)

Na-update

Ang input token ay ang mga token na binabasa ng language model sa isang request, kasama ang system prompt, history ng usapan, tool definitions at mga larawan. Ang output token ay ang mga token na binubuo nito bilang sagot, kasama ang anumang reasoning. Kadalasang magkahiwalay ang presyo ng dalawa, at mas mahal ang output.

Tinatawag ding: input token, output token, prompt token, completion token, prompt tokens, completion tokens, input tokens, output tokens

May dalawang panig ang bawat LLM request: ang ipinapadala mo at ang bumabalik. Sa token binibilang ng mga API ang dalawa, at karamihan ay naniningil sa magkaibang rate.

Paano ito gumagana

Ang input ay lahat ng nasa request: ang system prompt, bawat naunang mensahe, tool definitions, tool results, mga dokumento at mga larawan. Ipinapadala ulit ng isang multi-turn chat ang buong history sa bawat turn, kaya lumalaki ang input habang tumatagal ang usapan.

Ang output ay lahat ng binubuo ng model: ang nakikitang sagot, mga tool call at, sa mga reasoning model, ang nakatagong reasoning tokens.

Iniuulat ng usage block ang dalawa:

"usage": {
  "prompt_tokens": 18000,
  "completion_tokens": 900,
  "prompt_tokens_details": { "cached_tokens": 15000 },
  "completion_tokens_details": { "reasoning_tokens": 600 }
}

Ang gastos ng isang request ay:

(new input × input price) + (cached input × cached price) + (output × output price), at kada 1M token ang bawat presyo.

Bakit ito mahalaga

Ang ratio ng dalawa ang nagpapasya kung aling presyo ang mahalaga. Puwedeng ilang daang token lang ang isagot ng isang chat assistant sa maikling tanong. Ang isang coding agent naman ay nagpapadala ulit ng malaking repository context sa bawat turn at sumusulat ng maikling patch, kaya puwedeng 20 sa 1 o higit pa ang lamang ng input sa output. Para sa mga agent, ang presyo ng input at ng cached input ang bumubuo sa karamihan ng bill.

Dapat pa ring bantayan ang output. Puwedeng mas maraming token ang gastusin ng mga reasoning model sa pag-iisip kaysa sa pagsagot, at sinisingil ang mga iyon bilang output. Nasa LLM API price index ang karaniwang ratio ng presyo ng output sa input sa mga model na sinusubaybayan namin.

Sa BroadNet Inference

Kada 1M token, mula sa published na price file:

Model Input Cached input Output
DeepSeek V4.1 Flash $0.175 $0.0055 $0.52
GLM 5.3 $0.78 $0.173 $3.46
Qwen3.8 27B $0.175 $0.0435 $2.17
BroadNet Gemma 4 VL 26B $0.10 — $0.22

Sa halimbawang kuwenta ng BroadNet, nagpapadala ang isang full-time na coding agent ng 1,000 milyong input token kada buwan na may 80% na cache hit, at 50 milyong output token ang bumabalik. Sa DeepSeek V4.1 Flash na per token, $65.40 ang gastos niyan. Tinatanggal ng flat-rate plan ang meter: $60 kada buwan kada session ang Full Moon. Ikumpara ang sarili mong mga numero sa pricing calculator o basahin ang flat rate vs pay per token.

Mga karaniwang pagkakamali

  • Pagpepresyo lang sa nakikitang sagot at pagkalimot sa reasoning tokens.
  • Hindi pagpansin kung gaano kabilis lumaki ang history. Puwedeng may dalang input na 30 turn ang ika-30 turn ng isang chat.

Mga tanong

Ano ang pagkakaiba ng prompt token at input token?

Wala. Sa Chat Completions format, prompt_tokens at completion_tokens ang tawag sa mga ito. Sa mas bagong mga API, gaya ng Responses API ng OpenAI at Messages API ng Anthropic, input_tokens at output_tokens ang tawag.

Bakit mas mahal ang output kaysa input?

Binabasa ng model ang buong prompt sa isang parallel na pass, pero isa-isang token ang pagbuo nito ng output, kaya mas maraming GPU time ang nagagamit ng bawat output token.

Sinisingil ba ang tool definitions?

Oo. Bahagi ng prompt ang mga tool schema at tool result, kaya input token ang mga ito sa bawat request na may kasama nito.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity