BroadRouter

Token di input e di output

Aggiornato

I token di input sono quelli che un modello linguistico legge in una richiesta: system prompt, cronologia, definizioni degli strumenti e immagini. I token di output sono quelli che genera in risposta, ragionamento compreso. Le API LLM di solito li prezzano separatamente, e l’output costa di più.

Detto anche: token di input, token di output, token del prompt, token di completamento, prompt tokens, completion tokens, input tokens, output tokens

Ogni richiesta a un LLM ha due lati: quello che invii e quello che torna indietro. Le API li contano entrambi in token, e quasi sempre li fatturano a tariffe diverse.

Come funziona

L’input è tutto ciò che sta nella richiesta: system prompt, ogni messaggio precedente, definizioni degli strumenti, risultati degli strumenti, documenti e immagini. Una chat a più turni rimanda tutta la cronologia a ogni turno, quindi l’input cresce con la conversazione.

L’output è tutto ciò che il modello genera: la risposta visibile, le chiamate agli strumenti e, nei modelli di ragionamento, i token di ragionamento nascosti.

Il blocco usage li riporta entrambi:

"usage": {
  "prompt_tokens": 18000,
  "completion_tokens": 900,
  "prompt_tokens_details": { "cached_tokens": 15000 },
  "completion_tokens_details": { "reasoning_tokens": 600 }
}

Il costo di una richiesta è:

(input nuovo × prezzo di input) + (input in cache × prezzo in cache) + (output × prezzo di output), con ogni prezzo per 1M di token.

Perché è importante

Il rapporto tra i due decide quale prezzo conta. Un assistente di chat può produrre qualche centinaio di token per una domanda breve. Un agente di coding rimanda a ogni turno un ampio contesto del repository e scrive una patch breve, quindi l’input può superare l’output di 20 a 1 o più. Per gli agenti, il prezzo di input e quello dell’input in cache fanno gran parte della spesa.

L’output va comunque tenuto d’occhio. I modelli di ragionamento possono spendere più token a pensare che a rispondere, e quei token sono fatturati come output. Il rapporto tipico tra prezzo di output e di input, sui modelli che monitoriamo, è nell’indice dei prezzi delle API LLM.

Su BroadNet Inference

Per 1M di token, dal file dei prezzi pubblicato:

Modello Input Input in cache Output
DeepSeek V4.1 Flash $0.175 $0.0055 $0.52
GLM 5.3 $0.78 $0.173 $3.46
Qwen3.8 27B $0.175 $0.0435 $2.17
BroadNet Gemma 4 VL 26B $0.10 — $0.22

Nell’esempio di calcolo di BroadNet, un agente di coding a tempo pieno invia 1.000 milioni di token di input al mese con l’80% di cache hit e riceve 50 milioni di token di output. Con DeepSeek V4.1 Flash a token, costa $65.40. Un piano flat elimina il contatore: Full Moon costa $60 al mese per sessione. Confronta i tuoi numeri con il calcolatore dei prezzi o leggi piano flat o pagamento per token.

Errori comuni

  • Calcolare il prezzo solo sulla risposta visibile e dimenticare i token di ragionamento.
  • Sottovalutare quanto cresce in fretta la cronologia. Il trentesimo turno di una chat può portarsi dietro 30 turni di input.

Domande frequenti

Che differenza c’è tra prompt tokens e token di input?

Nessuna. Il formato Chat Completions li chiama prompt_tokens e completion_tokens. Le API più recenti, come la Responses API di OpenAI e la Messages API di Anthropic, li chiamano input_tokens e output_tokens.

Perché l’output costa più dell’input?

Un modello legge l’intero prompt in un unico passaggio parallelo, ma genera l’output un token alla volta, quindi ogni token di output richiede più tempo di GPU.

Le definizioni degli strumenti si pagano?

Sì. Gli schemi degli strumenti e i loro risultati fanno parte del prompt, quindi sono token di input in ogni richiesta che li include.

Leggi in MarkdownChiedi a ChatGPTChiedi a ClaudeChiedi a Perplexity