---
title: "Cosa sono i token al secondo (TPS) nell’inferenza LLM?"
description: "I token al secondo misurano quanto velocemente un LLM genera output. Velocità per richiesta, throughput, TTFT e come stimare la durata di una risposta."
url: https://broadrouter.com/it/glossary/tokens-per-second/
lang: it
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Tradotto dall’inglese con l’aiuto dell’IA. [Leggi l’originale in inglese](https://broadrouter.com/glossary/tokens-per-second/) (aggiornato il 2026-11-14).

# Token al secondo (tokens per second)

Aggiornato 2026-11-14

I token al secondo (TPS) sono la velocità con cui un modello linguistico genera token di output, di solito misurata per una richiesta dopo l’arrivo del primo token. Stabiliscono quanto scorre veloce una risposta una volta partita. Sommati su tutte le richieste concorrenti diventano throughput di sistema; l’attesa del primo token si misura a parte.

Detto anche: token al secondo, velocità di generazione, velocità di output, TPS, tok/s, tokens per second, output speed, generation speed

La velocità ha due parti: quanto tempo passa prima che compaia qualcosa, e quanto scorre veloce il testo dopo. I token al secondo misurano la seconda.

## Come funziona

La documentazione di benchmarking di NVIDIA definisce le metriche collegate:

-   **Time to first token (TTFT):** dall’invio della richiesta alla ricezione del primo token. Cresce con la lunghezza del prompt.
-   **Inter-token latency (ITL):** l’intervallo medio tra un token di output e il successivo.
-   **TPS per utente:** i token di output di una richiesta divisi per il suo tempo end-to-end, quindi nella definizione di NVIDIA include il TTFT. Molte dashboard riportano invece la velocità di decodifica dopo il primo token, come fa questa pagina.
-   **TPS di sistema:** i token di output totali su tutte le richieste simultanee, detti anche [throughput](https://broadrouter.com/it/glossary/throughput/).

Le due metriche tirano in direzioni opposte. NVIDIA nota che, quando la [concorrenza](https://broadrouter.com/it/glossary/concurrency/) aumenta, i TPS di sistema salgono mentre i TPS per utente scendono. Il numero di marketing di un provider e la velocità della tua singola richiesta possono essere entrambi onesti e comunque diversi.

Una stima rapida per una risposta:

`total time ≈ TTFT + output tokens ÷ tokens per second`

Cioè: tempo totale ≈ TTFT + token di output ÷ token al secondo. Prendi a titolo di esempio uno stream da 50 token al secondo: una risposta da 1.000 token richiede circa 20 secondi dopo il primo token. Se il modello scrive anche 2.000 [token di ragionamento](https://broadrouter.com/it/glossary/reasoning-tokens/), aggiungi circa 40 secondi prima che inizi la risposta. Il [time to first token](https://broadrouter.com/it/glossary/time-to-first-token/) si somma a tutto questo.

## Perché è importante

-   **Esperienza utente.** Lo [streaming](https://broadrouter.com/it/glossary/streaming/) mostra il testo man mano che arriva, quindi TTFT e TPS decidono quanto sembra veloce una risposta.
-   **Throughput degli agenti.** Un agente di coding aspetta ogni risposta prima del passo successivo. Un output più veloce significa più passi all’ora.
-   **Limiti dei piani.** Su un piano senza contatore di token, la velocità diventa il vero tetto ai token che puoi usare.

## Su BroadNet Inference

La pagina dei piani di BroadNet indica una velocità tipica di circa 100 token al secondo per DeepSeek V4.1 Flash. Una sessione dei piani illimitati esegue una richiesta alla volta, quindi a quella velocità una sessione che generasse senza sosta per 30 giorni produrrebbe circa 259 milioni di token di output. Gli agenti reali passano tempo a leggere, eseguire tool e aspettare, quindi il valore pratico è più basso.

Per avere più throughput totale su un piano, aggiungi sessioni: una per ogni agente che lavora in parallelo. Vedi [come funzionano le sessioni illimitate](https://broadrouter.com/it/guides/unlimited-llm-api-sessions/) e [far girare agenti di coding in parallelo](https://broadrouter.com/it/blog/run-parallel-coding-agents-flat-rate/).

## Errori comuni

-   Confrontare i provider su una singola richiesta. Misura TTFT e TPS su molte richieste, con le dimensioni di prompt che usi davvero.
-   Dimenticare il tempo di ragionamento quando imposti i timeout lato client.

## Domande frequenti

### Qual è un buon valore di token al secondo?

Dipende dall’uso. Una risposta in chat sembra reattiva quando il testo compare più in fretta di quanto le persone leggano. Agenti e job batch badano di più al tempo totale per task e a quante richieste girano in parallelo.

### I token al secondo includono il prompt?

Di solito no. La velocità di generazione conta i token di output. La lettura del prompt si vede invece nel time to first token, che cresce con la lunghezza del prompt.

### I token di ragionamento rallentano la risposta?

Sì. Vengono generati alla stessa velocità dell’output visibile, quindi un modello che ragiona per 2.000 token ritarda la risposta del tempo che servono a quei token.

## Vedi anche

-   [Token](https://broadrouter.com/it/glossary/token/) (termine)
-   [Concorrenza (concurrency)](https://broadrouter.com/it/glossary/concurrency/) (termine)
-   [Streaming](https://broadrouter.com/it/glossary/streaming/) (termine)
-   [Token di ragionamento (reasoning tokens)](https://broadrouter.com/it/glossary/reasoning-tokens/) (termine)
-   [Throughput](https://broadrouter.com/it/glossary/throughput/) (termine)
-   [Latenza (latency)](https://broadrouter.com/it/glossary/latency/) (termine)
-   [Time to first token (TTFT)](https://broadrouter.com/it/glossary/time-to-first-token/) (termine)
-   [Speculative decoding (decodifica speculativa)](https://broadrouter.com/it/glossary/speculative-decoding/) (termine)
-   [Streaming delle chat completions e connessioni interrotte](https://broadrouter.com/it/guides/streaming-chat-completions/) (guida)
-   [Come funzionano i piani API LLM illimitati per gli agenti](https://broadrouter.com/it/guides/unlimited-llm-api-sessions/) (guida)
-   [API LLM a tariffa flat o a consumo per token: i conti del pareggio](https://broadrouter.com/it/blog/flat-rate-vs-pay-per-token-llm-api/) (articolo)
-   [Come far girare agenti di coding in parallelo con un’API LLM flat](https://broadrouter.com/it/blog/run-parallel-coding-agents-flat-rate/) (articolo)

Provalo sul tuo carico di lavoro reale. I nuovi account partono con USD 5 di credito per Gemma e trascrizione. DeepSeek, GLM e Qwen3.8 richiedono una ricarica.

[Inizia](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=it-glossary-tokens-per-second&utm_content=page-cta) ·

**Fonti**

-   [NVIDIA NIM, metriche di benchmarking per l’inferenza LLM (TTFT, ITL, TPS)](https://docs.nvidia.com/nim/benchmarking/llm/latest/metrics.html)
-   [Piani di BroadNet Inference (velocità tipica) (in inglese)](https://inference.broadnet.ai/plans?utm_source=broadrouter&utm_medium=referral&utm_campaign=it-glossary-tokens-per-second&utm_content=sources)
