---
title: "Cos’è il time to first token (TTFT) nelle API LLM? | BroadRouter"
description: "Il time to first token (TTFT) è l’attesa tra l’invio di una richiesta a un LLM e l’arrivo del primo token di output. Da cosa è composto: coda, prefill e rete."
url: https://broadrouter.com/it/glossary/time-to-first-token/
lang: it
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Tradotto dall’inglese con l’aiuto dell’IA. [Leggi l’originale in inglese](https://broadrouter.com/glossary/time-to-first-token/) (aggiornato il 2026-11-16).

# Time to first token (TTFT)

Aggiornato 2026-11-16

Il time to first token (TTFT) è il tempo che passa dall’invio di una richiesta a un modello linguistico all’arrivo del primo token di output. Comprende il tempo di rete, la coda sul server e il prefill, la fase in cui il modello legge l’intero prompt, quindi cresce con la lunghezza del prompt e con il carico.

Detto anche: TTFT, tempo al primo token, latenza del primo token, tempo fino al primo token, first-token latency, time to first content token, first token time

Il TTFT è la pausa prima che succeda qualcosa. In una finestra di chat è lo schermo vuoto; in un bot vocale è il silenzio.

## Come funziona

La guida al benchmarking di NVIDIA scompone il TTFT in tre parti: “request queuing time, prefill time, and network latency” (traduzione: tempo di coda della richiesta, tempo di prefill e latenza di rete). Ognuna ha la sua causa:

| Parte | Cosa la determina | Cosa puoi cambiare |
| --- | --- | --- |
| Rete | Distanza, handshake TLS, proxy | Riusa le connessioni; chiama da una regione vicina |
| Coda | Quanto è carico il server | Orari meno trafficati, un modello o un tier meno carico |
| Prefill | Lunghezza del prompt, dimensione del modello | Prompt più corti, prefissi stabili che si possono mettere in cache |

Con input lunghi, di solito la parte più grossa è il prefill. Il modello fa passare l’intero prompt attraverso tutti i layer per costruire la [KV cache](https://broadrouter.com/it/glossary/kv-cache/) prima di poter produrre il primo token. NVIDIA nota che su un server carico il prefill di una richiesta può sovrapporsi alla generazione di un’altra, quindi il TTFT si muove anche con il traffico degli altri.

Quando leggi i numeri contano due definizioni. AIPerf di NVIDIA conta il primo token solo se ha un contenuto. Per il testo in streaming nella Responses API, la guida di OpenAI misura il TTFT “until you receive the first nonempty response.output\_text.delta” (traduzione: finché non ricevi il primo response.output\_text.delta non vuoto). Con i [token di ragionamento](https://broadrouter.com/it/glossary/reasoning-tokens/), la prima parola visibile può arrivare molto dopo il primo token generato, quindi specifica a quale dei due ti riferisci.

## Perché è importante

Il TTFT decide quanto un prodotto sembra veloce, più della velocità pura. La guida di OpenAI dice che “a long prompt can delay the first token, especially when much of the input is new” (traduzione: un prompt lungo può ritardare il primo token, soprattutto quando gran parte dell’input è nuova). Lo stesso vale per i [token di input in cache](https://broadrouter.com/it/glossary/cached-input-tokens/): un prefisso in cache salta una parte del prefill, quindi un system prompt ripetuto costa meno e parte prima.

Per gli agenti il TTFT si paga a ogni passo. Venti chiamate a strumenti con un TTFT di due secondi aggiungono quaranta secondi di attesa, prima ancora di contare l’output.

Il TTFT è una parte della [latenza](https://broadrouter.com/it/glossary/latency/) end-to-end. Il resto è il tempo di generazione, determinato dai [token al secondo](https://broadrouter.com/it/glossary/tokens-per-second/).

## Su BroadNet Inference

La documentazione di BroadNet descrive lo [streaming](https://broadrouter.com/it/glossary/streaming/) con i Server-Sent Events, che termina con `data: [DONE]`: è così che osservi il primo token dal client. DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B ragionano prima di rispondere, quindi il tempo fino al primo testo visibile include il ragionamento. BroadNet non pubblica un valore di TTFT. Per uno script di misura e un report p50/p95, vedi [latenza degli LLM: TTFT e token al secondo](https://broadrouter.com/it/blog/llm-latency-ttft-throughput/).

## Domande frequenti

### Perché il TTFT è lento con un prompt lungo?

Il modello deve leggere ogni token del prompt e costruire la sua KV cache prima di poter scrivere qualcosa. La guida alle metriche di NVIDIA dice che i prompt più lunghi aumentano il TTFT proprio per questo.

### Lo streaming riduce il time to first token?

No. Lo streaming ti fa vedere il primo token appena esiste; senza, aspetti l’intera risposta. Il lavoro lato server prima di quel token è lo stesso in entrambi i casi.

### Un primo chunk vuoto conta come primo token?

Nella maggior parte dei benchmark no. AIPerf di NVIDIA ignora le risposte iniziali senza contenuto, e OpenAI misura il TTFT fino al primo delta di testo non vuoto.

## Vedi anche

-   [Latenza (latency)](https://broadrouter.com/it/glossary/latency/) (termine)
-   [Token al secondo (tokens per second)](https://broadrouter.com/it/glossary/tokens-per-second/) (termine)
-   [KV cache (cache chiave-valore)](https://broadrouter.com/it/glossary/kv-cache/) (termine)
-   [Streaming](https://broadrouter.com/it/glossary/streaming/) (termine)
-   [Token di input in cache (cached input)](https://broadrouter.com/it/glossary/cached-input-tokens/) (termine)
-   [Speculative decoding (decodifica speculativa)](https://broadrouter.com/it/glossary/speculative-decoding/) (termine)
-   [Prefill e decode](https://broadrouter.com/it/glossary/prefill-and-decode/) (termine)
-   [Streaming delle chat completions e connessioni interrotte](https://broadrouter.com/it/guides/streaming-chat-completions/) (guida)
-   [Perché un modello di ragionamento restituisce una risposta vuota](https://broadrouter.com/it/guides/reasoning-tokens-empty-response/) (guida)
-   [Latenza degli LLM: TTFT, token al secondo e tempo end-to-end](https://broadrouter.com/it/blog/llm-latency-ttft-throughput/) (articolo)
-   [Streaming degli LLM spiegato: chunk SSE, delta, usage e annullamento](https://broadrouter.com/it/blog/llm-streaming-sse-explained/) (articolo)

Provalo sul tuo carico di lavoro reale. I nuovi account partono con USD 5 di credito per Gemma e trascrizione. DeepSeek, GLM e Qwen3.8 richiedono una ricarica.

[Inizia](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=it-glossary-time-to-first-token&utm_content=page-cta) ·

**Fonti**

-   [NVIDIA NIM, metriche di benchmark per LLM (time to first token)](https://docs.nvidia.com/nim/benchmarking/llm/latest/metrics.html)
-   [OpenAI, guida all’ottimizzazione della latenza](https://developers.openai.com/api/docs/guides/latency-optimization)
-   [Riferimento API di BroadNet Inference, streaming e ragionamento (in inglese)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=it-glossary-time-to-first-token&utm_content=sources)
