---
title: "Cos’è lo streaming in un’API LLM? I server-sent event"
description: "Lo streaming restituisce la risposta di un LLM a pezzi mentre viene generata. Come funzionano SSE e [DONE], come avere l’usage e cosa fare se lo stream si rompe."
url: https://broadrouter.com/it/glossary/streaming/
lang: it
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Tradotto dall’inglese con l’aiuto dell’IA. [Leggi l’originale in inglese](https://broadrouter.com/glossary/streaming/) (aggiornato il 2026-11-14).

# Streaming

Aggiornato 2026-11-14

Lo streaming è un modo di restituire la risposta di un modello linguistico in piccoli pezzi mentre viene ancora generata, invece che in un’unica risposta alla fine. Le API compatibili con OpenAI trasmettono in streaming tramite server-sent event quando la richiesta imposta stream a true.

Detto anche: streaming delle risposte, risposte in streaming, streaming dei token, stream=true, streaming, streaming responses, token streaming

Senza streaming, il client aspetta che l’intera risposta sia pronta. Con lo streaming, il testo compare mentre il modello lo scrive.

## Come funziona

Lo streaming usa i [server-sent event (SSE)](https://broadrouter.com/it/glossary/sse/). Il server risponde con content type `text/event-stream` e tiene aperta la connessione. MDN descrive il formato: righe `field: value`, con messaggi “separated by a pair of newline characters” (traduzione: separati da una coppia di caratteri di a capo).

Nel formato Chat Completions, ogni evento porta un chunk con un piccolo `delta`:

```text
data: {"choices":[{"index":0,"delta":{"content":"Hel"}}]}

data: {"choices":[{"index":0,"delta":{"content":"lo"}}]}

data: {"choices":[],"usage":{"prompt_tokens":12,"completion_tokens":2}}

data: [DONE]
```

Il client unisce i delta. La riga letterale `data: [DONE]` segna la fine. Il chunk con l’usage compare solo se la richiesta lo ha chiesto con `stream_options: {"include_usage": true}`.

## Perché è importante

-   **Velocità percepita.** Gli utenti vedono le prime parole dopo il [time to first token](https://broadrouter.com/it/glossary/time-to-first-token/), non dopo l’intera risposta. Da lì il testo scorre ai [token al secondo](https://broadrouter.com/it/glossary/tokens-per-second/) del modello.
-   **Output lunghi.** Lo streaming tiene attiva la connessione, il che aiuta con i proxy che chiudono le richieste inattive.
-   **Azione anticipata.** Agenti e interfacce possono iniziare a fare il parsing o il rendering prima della fine.

Ci sono anche dei costi. OpenAI osserva che lo streaming rende più difficile la moderazione, perché “partial completions may be more difficult to evaluate” (traduzione: le risposte parziali possono essere più difficili da valutare). Uno stream può anche interrompersi a metà, e una risposta in streaming occupa uno slot di [concorrenza](https://broadrouter.com/it/glossary/concurrency/) finché non termina.

## Su BroadNet Inference

BroadNet usa il formato standard di streaming di chat completions su `https://inference.broadnet.ai/v1/chat/completions`, quindi gli SDK [Python](https://broadrouter.com/it/guides/openai-python-sdk/) e [Node](https://broadrouter.com/it/guides/openai-node-sdk/) lo interpretano al posto tuo. Con curl, aggiungi `-N` per disattivare il buffering:

```bash
curl -N https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"broadnet/gemma-4-26b-a4b","stream":true,"stream_options":{"include_usage":true},"messages":[{"role":"user","content":"Count to three."}]}'
```

I modelli di ragionamento possono riportare `reasoning_tokens` e `cached_tokens` nel chunk finale con l’usage. Se la connessione si chiude prima di `[DONE]`, considera la risposta incompleta, registra l’header `X-Request-ID` e valuta se una nuova richiesta è sicura. La documentazione di BroadNet consiglia di verificare lo streaming sul modello che metti in produzione prima di affidartici. I dettagli sono nella [guida allo streaming](https://broadrouter.com/it/guides/streaming-chat-completions/) e in [errori e retry](https://broadrouter.com/it/guides/errors-and-retries/).

## Errori comuni

-   Considerare una connessione chiusa come una risposta completa. Solo `[DONE]` significa che è finita.
-   Mettere un proxy con buffering davanti al client. La risposta arriva allora tutta in una volta.

## Domande frequenti

### Lo streaming rende il modello più veloce?

No. La velocità di generazione è la stessa. Lo streaming mostra prima le prime parole, quindi la risposta sembra più rapida, e permette al codice di lavorare sull’output parziale.

### Come ottengo l’uso dei token in uno stream?

Nel formato Chat Completions, invia stream\_options con include\_usage impostato a true. L’ultimo chunk conterrà allora l’usage e un elenco choices vuoto.

### Uno stream ritentato si paga due volte?

Con una chiave a token, di solito sì. Un retry è una nuova inferenza, fatturata di nuovo. Con un piano flat senza contatore di token, costa solo tempo.

## Vedi anche

-   [Token al secondo (tokens per second)](https://broadrouter.com/it/glossary/tokens-per-second/) (termine)
-   [Concorrenza (concurrency)](https://broadrouter.com/it/glossary/concurrency/) (termine)
-   [API compatibile con OpenAI](https://broadrouter.com/it/glossary/openai-compatible-api/) (termine)
-   [Token di input e di output](https://broadrouter.com/it/glossary/input-and-output-tokens/) (termine)
-   [Server-sent events (SSE)](https://broadrouter.com/it/glossary/sse/) (termine)
-   [Time to first token (TTFT)](https://broadrouter.com/it/glossary/time-to-first-token/) (termine)
-   [Streaming delle chat completions e connessioni interrotte](https://broadrouter.com/it/guides/streaming-chat-completions/) (guida)
-   [Usare l’SDK Python di OpenAI con BroadNet Inference](https://broadrouter.com/it/guides/openai-python-sdk/) (guida)
-   [Usare l’SDK Node.js di OpenAI con BroadNet Inference](https://broadrouter.com/it/guides/openai-node-sdk/) (guida)
-   [Codici di errore di BroadNet Inference e quando ritentare](https://broadrouter.com/it/guides/errors-and-retries/) (guida)
-   [Passare a un’API compatibile con OpenAI: la checklist di migrazione](https://broadrouter.com/it/blog/openai-compatible-api-migration-checklist/) (articolo)

Provalo sul tuo carico di lavoro reale. I nuovi account partono con USD 5 di credito per Gemma e trascrizione. DeepSeek, GLM e Qwen3.8 richiedono una ricarica.

[Inizia](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=it-glossary-streaming&utm_content=page-cta) ·

**Fonti**

-   [MDN, usare i server-sent event](https://developer.mozilla.org/en-US/docs/Web/API/Server-sent_events/Using_server-sent_events)
-   [OpenAI, risposte dell’API in streaming](https://developers.openai.com/api/docs/guides/streaming-responses)
-   [Riferimento API di BroadNet Inference, streaming (in inglese)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=it-glossary-streaming&utm_content=sources#requests)
