---
title: "Streaming delle risposte LLM via SSE, con usage e retry"
description: "Lo streaming su BroadNet Inference: Server-Sent Events, il marcatore [DONE], l’uso dei token nell’ultimo chunk e cosa fare se lo stream si chiude prima della fine."
url: https://broadrouter.com/it/guides/streaming-chat-completions/
lang: it
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Tradotto dall’inglese con l’aiuto dell’IA. [Leggi l’originale in inglese](https://broadrouter.com/guides/streaming-chat-completions/) (aggiornato il 2026-11-15).

# Streaming delle chat completions e connessioni interrotte

Aggiornato 2026-11-15

Imposta stream a true su /v1/chat/completions e leggi i Server-Sent Events fino al marcatore letterale data: \[DONE\]. Aggiungi stream\_options include\_usage per ricevere i conteggi dei token nell’ultimo chunk. Se la connessione si chiude prima di \[DONE\], considera la risposta incompleta e registra l’X-Request-ID.

Lo streaming permette a un agente o a un’interfaccia di chat di mostrare la risposta mentre viene generata. BroadNet Inference usa il formato di streaming standard delle chat completions, quindi l’[SDK Python di OpenAI](https://broadrouter.com/it/guides/openai-python-sdk/) e l’[SDK Node di OpenAI](https://broadrouter.com/it/guides/openai-node-sdk/) se ne occupano al posto tuo.

## Con curl

```bash
curl -N -D stream-headers.txt https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"broadnet/gemma-4-26b-a4b","stream":true,"stream_options":{"include_usage":true},"messages":[{"role":"user","content":"Count from one to three."}]}'
```

`-N` disattiva il buffering di curl, e `-D` salva gli header, compreso `X-Request-ID`.

## Com’è fatto lo stream?

La risposta è uno stream di [Server-Sent Events](https://broadrouter.com/it/glossary/sse/). Secondo lo standard HTML del WHATWG, ogni evento è composto da una o più righe `data:` seguite da una riga vuota, e una riga che inizia con i due punti è un commento che puoi ignorare. Ogni riga `data:` contiene un chunk JSON, e il testo arriva in `choices[0].delta.content`.

## Le regole

1.  Leggi gli eventi fino alla riga letterale `data: [DONE]`, poi chiudi il reader.
2.  Con `stream_options: {"include_usage": true}`, subito prima di `[DONE]` arriva un chunk in più. Contiene `usage` per l’intera richiesta e una lista `choices` vuota, quindi controlla `choices` prima di accedere a un indice.
3.  Quando il modello li riporta, quell’usage comprende `completion_tokens_details.reasoning_tokens` (DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B ragionano prima di rispondere) e `prompt_tokens_details.cached_tokens`. I token in cache sono fatturati al prezzo ridotto dell’input in cache.

## Con l’SDK Python

Nel codice, il commento finale indica che `None` significa che lo stream si è chiuso prima del chunk con l’usage.

```python
import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])

stream = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Count from one to three."}],
    stream=True,
    stream_options={"include_usage": True},
)
usage = None
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if chunk.usage:
        usage = chunk.usage
print()
print(usage)  # None means the stream ended before the usage chunk
```

L’SDK legge fino a `[DONE]` al posto tuo. La [guida all’SDK Node di OpenAI](https://broadrouter.com/it/guides/openai-node-sdk/) mostra lo stesso ciclo in JavaScript.

## Quando lo stream si chiude prima

Se la connessione si chiude prima di `[DONE]`, la risposta è incompleta. Le indicazioni di BroadNet:

-   registra l’`X-Request-ID`;
-   decidi se la tua applicazione può fare in sicurezza una **nuova** richiesta. Un retry è una nuova inferenza e, a consumo, viene fatturato di nuovo.

Per gli agenti con un [piano illimitato](https://broadrouter.com/it/guides/unlimited-llm-api-sessions/), i retry non costano nulla in più, ma occupano comunque la sessione mentre sono in corso.

La documentazione di BroadNet dice che serve ancora una verifica di rilascio modello per modello prima di fare affidamento sullo streaming in produzione, quindi provalo sul modello che porterai in produzione.

## Risoluzione dei problemi

-   **Viene stampato tutto alla fine.** curl ha bisogno di `-N`. Dietro un tuo proxy, disattiva il buffering delle risposte per `text/event-stream`.
-   **`IndexError` o `undefined` sull’ultimo chunk.** Il chunk con l’usage ha una lista `choices` vuota. Controlla `chunk.choices` prima di leggere `[0]`.
-   **Nessun usage.** Non hai inviato `stream_options`, oppure lo stream si è interrotto prima del chunk finale.
-   **Lo stream si ferma con `finish_reason` `length` e poco testo.** Un modello di ragionamento ha speso `max_tokens` nel ragionamento. Vedi [perché i modelli di ragionamento restituiscono risposte vuote](https://broadrouter.com/it/guides/reasoning-tokens-empty-response/).
-   **429 con stream in parallelo.** Ogni stream aperto conta come richiesta in corso; una chiave a consumo ne consente 4. Vedi [codici di errore e retry di BroadNet](https://broadrouter.com/it/guides/errors-and-retries/).

## Termini in questa guida

[Streaming](https://broadrouter.com/it/glossary/streaming/)

Lo streaming è un modo di restituire la risposta di un modello linguistico in piccoli pezzi mentre viene ancora generata, invece che in un’unica risposta alla fine. Le API compatibili con OpenAI trasmettono in streaming tramite server-sent event quando la richiesta imposta stream a true.

[Pagamento a consumo (pay-as-you-go)](https://broadrouter.com/it/glossary/pay-as-you-go/)

Il pagamento a consumo è un modello di prezzo in cui paghi solo ciò che usi, misurato per unità come token, richieste o minuti di audio, senza abbonamento né impegno minimo. La maggior parte delle API LLM fattura così, da un saldo prepagato o con una fattura periodica.

[Concorrenza (concurrency)](https://broadrouter.com/it/glossary/concurrency/)

La concorrenza è il numero di richieste che un client ha in corso nello stesso momento. Le API LLM spesso la limitano per chiave o per piano, separatamente dalle richieste al minuto, perché ogni richiesta aperta occupa capacità GPU finché la sua risposta non è terminata.

[Server-sent events (SSE)](https://broadrouter.com/it/glossary/sse/)

I server-sent events (SSE) sono uno standard web con cui un server invia a un client un flusso di eventi testuali su un’unica risposta HTTP di lunga durata, con content type text/event-stream. Ogni evento è composto da una o più righe di campo, come data:, ed è chiuso da una riga vuota.

[Token](https://broadrouter.com/it/glossary/token/)

Un token è l’unità di testo che un modello linguistico legge e scrive: una parola, una parte di parola, un segno di punteggiatura o una sequenza di byte prodotta dal tokenizer del modello. Le API LLM contano, limitano e di solito fatturano l’uso in token.

[Token di input in cache (cached input)](https://broadrouter.com/it/glossary/cached-input-tokens/)

I token di input in cache sono token del prompt che un provider LLM ha elaborato da poco e può riusare da una cache invece di ricalcolarli, di solito un prefisso ripetuto come un system prompt o un documento. I provider li fatturano a una tariffa più bassa dei token di input nuovi.

[Chat Completions API](https://broadrouter.com/it/glossary/chat-completions-api/)

La Chat Completions API è l’endpoint HTTP di OpenAI, POST /v1/chat/completions, che riceve il nome di un modello e una lista di messaggi con un ruolo e restituisce il messaggio successivo del modello. La forma della sua richiesta e risposta è diventata il formato comune che riusano provider e SDK compatibili con OpenAI.

## Domande frequenti

### Come ottengo l’uso dei token in streaming con le chat completions?

Invia stream\_options con include\_usage impostato a true. Subito prima di data: \[DONE\] arriva un chunk in più, con usage compilato e un array choices vuoto. Se lo stream si interrompe prima, quel chunk non arriva mai.

### Perché curl stampa tutta la risposta in streaming in una volta?

Per impostazione predefinita curl mette l’output in buffer. Aggiungi l’opzione -N (nessun buffering) così ogni Server-Sent Event viene stampato appena arriva.

### Uno stream ritentato viene fatturato due volte?

A consumo, sì. Un retry è una nuova richiesta di inferenza. Con un piano illimitato DeepSeek V4.1 Flash non c’è un contatore di token, ma il retry occupa comunque la sessione mentre è in corso.

### Lo streaming costa più di una richiesta normale?

No. Lo streaming cambia il modo in cui la risposta viene consegnata, non come viene fatturata. A consumo paghi gli stessi prezzi per token di input e di output di una richiesta senza streaming.

## Guide correlate

-   [Usare l’SDK Python di OpenAI con BroadNet Inference](https://broadrouter.com/it/guides/openai-python-sdk/)
-   [Codici di errore di BroadNet Inference e quando ritentare](https://broadrouter.com/it/guides/errors-and-retries/)
-   [Perché un modello di ragionamento restituisce una risposta vuota](https://broadrouter.com/it/guides/reasoning-tokens-empty-response/)

Provalo sul tuo carico di lavoro reale. I nuovi account partono con USD 5 di credito per Gemma e trascrizione. DeepSeek, GLM e Qwen3.8 richiedono una ricarica.

[Inizia](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=it-guides-streaming-chat-completions&utm_content=page-cta) ·

**Fonti**

-   [Riferimento API di BroadNet Inference, streaming (in inglese)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=it-guides-streaming-chat-completions&utm_content=sources#requests)
-   [WHATWG HTML Standard, server-sent events (verificato il 2026-11-14)](https://html.spec.whatwg.org/multipage/server-sent-events.html)
-   [SDK Python di OpenAI, docstring di stream\_options include\_usage (verificata il 2026-11-14)](https://github.com/openai/openai-python/blob/main/src/openai/types/chat/chat_completion_stream_options_param.py)
