May dalawang panig ang bawat LLM request: ang ipinapadala mo at ang bumabalik. Sa token binibilang ng mga API ang dalawa, at karamihan ay naniningil sa magkaibang rate.
Paano ito gumagana
Ang input ay lahat ng nasa request: ang system prompt, bawat naunang mensahe, tool definitions, tool results, mga dokumento at mga larawan. Ipinapadala ulit ng isang multi-turn chat ang buong history sa bawat turn, kaya lumalaki ang input habang tumatagal ang usapan.
Ang output ay lahat ng binubuo ng model: ang nakikitang sagot, mga tool call at, sa mga reasoning model, ang nakatagong reasoning tokens.
Iniuulat ng usage block ang dalawa:
"usage": {
"prompt_tokens": 18000,
"completion_tokens": 900,
"prompt_tokens_details": { "cached_tokens": 15000 },
"completion_tokens_details": { "reasoning_tokens": 600 }
}
Ang gastos ng isang request ay:
(new input × input price) + (cached input × cached price) + (output × output price), at kada 1M token ang bawat presyo.
Bakit ito mahalaga
Ang ratio ng dalawa ang nagpapasya kung aling presyo ang mahalaga. Puwedeng ilang daang token lang ang isagot ng isang chat assistant sa maikling tanong. Ang isang coding agent naman ay nagpapadala ulit ng malaking repository context sa bawat turn at sumusulat ng maikling patch, kaya puwedeng 20 sa 1 o higit pa ang lamang ng input sa output. Para sa mga agent, ang presyo ng input at ng cached input ang bumubuo sa karamihan ng bill.
Dapat pa ring bantayan ang output. Puwedeng mas maraming token ang gastusin ng mga reasoning model sa pag-iisip kaysa sa pagsagot, at sinisingil ang mga iyon bilang output. Nasa LLM API price index ang karaniwang ratio ng presyo ng output sa input sa mga model na sinusubaybayan namin.
Sa BroadNet Inference
Kada 1M token, mula sa published na price file:
| Model | Input | Cached input | Output |
|---|---|---|---|
| DeepSeek V4.1 Flash | $0.175 | $0.0055 | $0.52 |
| GLM 5.3 | $0.78 | $0.173 | $3.46 |
| Qwen3.8 27B | $0.175 | $0.0435 | $2.17 |
| BroadNet Gemma 4 VL 26B | $0.10 | — | $0.22 |
Sa halimbawang kuwenta ng BroadNet, nagpapadala ang isang full-time na coding agent ng 1,000 milyong input token kada buwan na may 80% na cache hit, at 50 milyong output token ang bumabalik. Sa DeepSeek V4.1 Flash na per token, $65.40 ang gastos niyan. Tinatanggal ng flat-rate plan ang meter: $60 kada buwan kada session ang Full Moon. Ikumpara ang sarili mong mga numero sa pricing calculator o basahin ang flat rate vs pay per token.
Mga karaniwang pagkakamali
- Pagpepresyo lang sa nakikitang sagot at pagkalimot sa reasoning tokens.
- Hindi pagpansin kung gaano kabilis lumaki ang history. Puwedeng may dalang input na 30 turn ang ika-30 turn ng isang chat.