---
title: "LLM の SSE ストリーミング：チャンク・delta・usage・キャンセル | BroadRouter"
description: "chat completion のストリーミングが通信上どう流れるか、delta から回答を組み立てる方法、最後のチャンクから usage を読む方法、Python・Node・curl できれいにキャンセルする方法を解説します。"
url: https://broadrouter.com/ja/blog/llm-streaming-sse-explained/
lang: ja
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

このページは英語の原文を AI の支援を受けて翻訳したものです。[英語の原文を読む](https://broadrouter.com/blog/llm-streaming-sse-explained/)（2026-11-16 更新）。

# LLM のストリーミング解説：SSE のチャンク、delta、usage、キャンセル

BroadNet Inference チーム · 約 4 分で読めます · 公開日 2026-11-14 · 更新日 2026-11-16

LLM API は chat completion を Server-Sent Events で流します。各 data 行には JSON のチャンクが入り、その choices\[0\].delta が次のテキスト片を運びます。delta を連結し、data: \[DONE\] で止めます。stream\_options の include\_usage を true にすると、choices が空の最後のチャンクでトークン数を受け取れます。キャンセルは接続を閉じるだけです。

## 要点

-   ストリームはただの HTTP です。`Content-Type: text/event-stream`、チャンクごとに 1 行の `data:`、イベント間に空行、最後に `data: [DONE]` です。
-   各チャンクが運ぶのはメッセージ全体ではなく `delta` です。`delta.content` の文字列をつなげて回答を組み立てます。
-   ストリームでは usage はデフォルトで送られません。`stream_options: {"include_usage": true}` を付けると、usage を含み `choices` 配列が空の最後のチャンクが 1 つ追加されます。
-   `choices[0]` へのアクセスは必ずガードしてください。usage のチャンクには choices がなく、あると決めつけたパーサーはクラッシュします。
-   キャンセルは HTTP 接続を閉じることで行います。`[DONE]` なしで終わったストリームは、完了した回答ではなく不完全な回答です。

**このページの内容**

1.  SSE のストリームは通信上どう見えますか？
2.  チャンクには何が入っていますか？
3.  ストリームからトークンの使用量を取得するには？
4.  Python：ストリーミング、usage の取得、キャンセル
5.  Node：AbortController でストリーミング
6.  curl：生のイベントを見る
7.  ストリームはどうキャンセルし、コストはどうなりますか？
8.  チェックすべき 5 つのストリーミングのバグ
9.  BroadNet Inference が向いている場面

[ストリーミング](https://broadrouter.com/ja/glossary/streaming/)を使わないと、chat completion は回答全体ができあがるまで何も返しません。600 トークンの返答は、毎秒約 100 トークン の速度では数秒間の沈黙になります。ストリーミングなら、モデルが書いたそばから最初の言葉が表示されます。この記事では、実際に通信で何が流れるか、それをどうパースするか、ストリームから[トークン](https://broadrouter.com/ja/glossary/token/)の使用量をどう取り出すか、どうきれいに止めるかを解説します。BroadNet 固有のルールを手短に知りたい場合は、[ストリーミングのリファレンスガイド](https://broadrouter.com/ja/guides/streaming-chat-completions/)をご覧ください。

## SSE のストリームは通信上どう見えますか？

Server-Sent Events は、`Content-Type: text/event-stream` のごく普通の HTTP レスポンスです。サーバーは接続を開いたままにして、イベントを書き込みます。各イベントは 1 行以上の `data:` 行と、それに続く空行です。OpenAI 互換 API は各イベントに JSON のチャンクを 1 つ入れ、最後はリテラルの `[DONE]` で終わります。

```text
data: {"id":"c1","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"role":"assistant","content":""},"finish_reason":null}],"usage":null}

data: {"id":"c1","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"content":"One, "},"finish_reason":null}],"usage":null}

data: {"id":"c1","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"content":"two, three."},"finish_reason":"stop"}],"usage":null}

data: {"id":"c1","object":"chat.completion.chunk","choices":[],"usage":{"prompt_tokens":14,"completion_tokens":6,"total_tokens":20}}

data: [DONE]
```

上の形は説明用で、一部を省略しています。実際のチャンクには `model` と `created` も含まれ、推論モデルでは usage に推論トークンが報告されることがあります。

## チャンクには何が入っていますか？

| フィールド | 場所 | 意味 |
| --- | --- | --- |
| `choices[0].delta.role` | 最初のチャンク | 通常は `assistant`。1 回だけ送られる。 |
| `choices[0].delta.content` | ほとんどのチャンク | 次のテキスト片。空のこともある。 |
| `choices[0].delta.tool_calls` | ツール呼び出し | 関数名と JSON 引数の断片。`index` ごとにつなげる。 |
| `choices[0].finish_reason` | 最後のコンテンツチャンク | `stop`、`length`、`tool_calls`。それまでは `null`。 |
| `usage` | 最後のチャンク（要求した場合） | リクエスト全体の合計。それ以外ではすべて `null`。 |

ポイントは、\*\*スナップショットではなく delta（差分）\*\*だということです。各チャンクには新しい部分だけが入っています。メッセージは、断片を順番につなげて組み立てます。[ツール呼び出し](https://broadrouter.com/ja/glossary/tool-calling/)も同じようにストリーミングされます。引数は文字列の断片として届き、最後の断片が届くまで正しい JSON ではないので、`finish_reason` が `tool_calls` になってからパースしてください。

## ストリームからトークンの使用量を取得するには？

ストリーミングでないレスポンスには、必ず `usage` が含まれます。ストリームでは、求めない限り含まれません。`stream_options: {"include_usage": true}` を設定すると、サーバーは `[DONE]` の前にチャンクを 1 つ追加で送ります。このチャンクは合計を持ち、**`choices` 配列は空**です。BroadNet Inference では、モデルが報告する場合、usage に `prompt_tokens_details.cached_tokens` と `completion_tokens_details.reasoning_tokens` も含まれます。[コストのログ記録](https://broadrouter.com/ja/blog/llm-api-usage-logging/)に必要なのはまさにこれです。

よくあるバグは、すべてのチャンクで `chunk.choices[0]` を読むコードが、usage のチャンクでインデックスエラーを出すことです。先に `choices` を確認してください。

## Python：ストリーミング、usage の取得、キャンセル

```python
import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])

stream = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",  # DeepSeek V4.1 Flash, a reasoning model
    messages=[{"role": "user", "content": "Explain SSE in three sentences."}],
    stream=True,
    stream_options={"include_usage": True},
    max_tokens=2000,  # reasoning counts toward this limit
)

def user_pressed_stop():  # replace with your own condition
    return False

parts, usage, finish = [], None, None
try:
    for chunk in stream:
        if chunk.choices:
            choice = chunk.choices[0]
            if choice.delta.content:
                parts.append(choice.delta.content)
                print(choice.delta.content, end="", flush=True)
            if choice.finish_reason:
                finish = choice.finish_reason
        if chunk.usage:
            usage = chunk.usage
        if user_pressed_stop():  # your own condition
            break
finally:
    stream.close()  # closes the HTTP connection

text = "".join(parts)
```

`break` だけでは読み取りが止まるだけで、ソケットはガベージコレクションされるまで開いたままです。サーバーが切断に気づけるよう、明示的に閉じてください。

## Node：AbortController でストリーミング

```javascript
import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://inference.broadnet.ai/v1", apiKey: process.env.BROADNET_API_KEY });
const controller = new AbortController();
setTimeout(() => controller.abort(), 30_000); // hard stop after 30 s

const stream = await client.chat.completions.create(
  {
    model: "broadnet/deepseek-v4.1-flash",
    messages: [{ role: "user", content: "Explain SSE in three sentences." }],
    stream: true,
    stream_options: { include_usage: true },
  },
  { signal: controller.signal },
);

let text = "";
for await (const chunk of stream) {
  const delta = chunk.choices[0]?.delta?.content;
  if (delta) text += delta;
  if (chunk.usage) console.log(chunk.usage);
}
```

[openai-node の README](https://github.com/openai/openai-node) には `signal` オプションが記載されており、ボディを読み込んでいる最中でも効きます。Web サーバーでは、`controller.abort()` をクライアントリクエストの `close` イベントにつなぐと、ユーザーがページを離れたときに生成も止まります。セットアップの詳細は [Node SDK のガイド](https://broadrouter.com/ja/guides/openai-node-sdk/)にあります。

## curl：生のイベントを見る

```bash
curl -N https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"broadnet/gemma-4-26b-a4b","stream":true,"stream_options":{"include_usage":true},"messages":[{"role":"user","content":"Count to five."}]}'
```

`-N` は出力のバッファリングを無効にし、イベントが届くたびに表示します。Ctrl+C を押すとキャンセルされ、接続が閉じます。[API リクエストビルダー](https://broadrouter.com/tools/api-request-builder/)を使えば、どのモデルとベース URL でも、このリクエストと Python・Node 版を生成できます。

## ストリームはどうキャンセルし、コストはどうなりますか？

SSE でのキャンセルは、接続を閉じることだけです。「停止」メッセージはありません。その後どうなるかはサーバー次第で、行儀のよいサーバーはソケットが閉じたことに気づいて生成を止めます。それまでに生成されたトークンは、実際に行われた処理です。BroadNet の API リファレンスにはキャンセルしたストリームの課金について記載がないので、[従量課金](https://broadrouter.com/ja/glossary/pay-as-you-go/)では切断までに生成されたトークンは課金されるものとして計画し、利用記録を確認してください。定額プランでは、キャンセルしたストリームに追加料金はかかりませんが、セッションが空くのはサーバーが生成を止めてからです。

## チェックすべき 5 つのストリーミングのバグ

1.  \*\*バッファリングするプロキシ。\*\*Nginx や一部の CDN はレスポンスをバッファリングするので、クライアントにはすべてが一度に届きます。ストリーミングのルートではプロキシのバッファリングを無効にしてください。
2.  \*\*`[DONE]` を確認しない。\*\*接続が切れると、短い回答のように見えます。`[DONE]` がなければ不完全として扱い、[エラーのガイド](https://broadrouter.com/ja/guides/errors-and-retries/)にあるとおり `X-Request-ID` を記録してください。
3.  \*\*ストリームの途中でリトライする。\*\*ボディが届き始めたら、SDK はリトライしません。リトライは新しいリクエストであり、従量課金なら新しい請求です。
4.  **`finish_reason: length` を無視する。**[DeepSeek V4.1 Flash](https://broadrouter.com/ja/models/deepseek-v4.1-flash/) のような推論モデルでは、思考が [max\_tokens](https://broadrouter.com/ja/glossary/max-tokens/) に含まれるので、上限が小さいと、目に見えるテキストが出る前にストリームが止まることがあります。[推論トークンのコスト](https://broadrouter.com/ja/blog/reasoning-tokens-cost/)を参照してください。
5.  \*\*行の分割を間違える。\*\*SSE を自前でパースするなら、空行が来るまでバイトをバッファしてください。TCP の 1 回の読み取りが、JSON チャンクの途中で終わることがあります。

## BroadNet Inference が向いている場面

BroadNet Inference は標準的な [OpenAI 互換](https://broadrouter.com/ja/glossary/openai-compatible-api/)のストリーミング形式を使うので、Python と Node の SDK がそのままパースできます。最後のチャンクの usage には、モデルが報告する場合、キャッシュトークンと推論トークンが含まれます。ドキュメントには、本番で使う前にモデルごとにストリーミングを確認すべきとあるので、実際にリリースするモデルで上のコードを動かしてください。最初のトークンが届く速さがいちばん気になるなら、次は [TTFT とスループット](https://broadrouter.com/ja/blog/llm-latency-ttft-throughput/)をお読みください。WebSocket によるリアルタイム音声が必要なら、この API はそのために作られていません。提供しているのは chat completions とファイルの文字起こしです。

関連する無料ツール（英語）

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[無料ツール（英語）](https://broadrouter.com/tools/)

## この記事の用語

[トークン（token）](https://broadrouter.com/ja/glossary/token/)

トークンとは、言語モデルが読み書きするテキストの単位です。モデルのトークナイザーが作る単語、単語の一部、句読点、バイト列のいずれかにあたります。LLM API は利用量をトークンで数え、上限を設け、通常はトークン単位で課金します。

[SSE（Server-Sent Events）](https://broadrouter.com/ja/glossary/sse/)

SSE（Server-Sent Events）とは、content type が text/event-stream の長時間続く 1 つの HTTP 応答を通じて、サーバーがクライアントにテキストイベントのストリームを送るための Web 標準です。各イベントは data: などのフィールド行 1 行以上と、最後の空行からなります。

[ストリーミング（streaming）](https://broadrouter.com/ja/glossary/streaming/)

ストリーミングとは、言語モデルの応答を最後にまとめて返すのではなく、生成中に小さなチャンクに分けて返す方式です。OpenAI 互換 API では、リクエストで stream を true にすると Server-Sent Events（SSE）でストリーミングされます。

[OpenAI 互換 API（OpenAI-compatible API）](https://broadrouter.com/ja/glossary/openai-compatible-api/)

OpenAI 互換 API とは、POST /v1/chat/completions など OpenAI API と同じリクエスト形式とレスポンス形式を受け付ける HTTP API です。OpenAI の SDK やツールは、ベース URL、API キー、モデル名を変えるだけで利用できます。

[従量課金（pay-as-you-go）](https://broadrouter.com/ja/glossary/pay-as-you-go/)

従量課金とは、使った分だけを支払う料金体系です。トークン、リクエスト、音声の分数などの単位で計測され、サブスクリプションや最低利用額はありません。多くの LLM API はこの方式で、前払いの残高か定期的な請求書から支払います。

[Chat Completions API（チャット補完 API）](https://broadrouter.com/ja/glossary/chat-completions-api/)

Chat Completions API とは、OpenAI の HTTP エンドポイント POST /v1/chat/completions で、モデル名とロール付きメッセージのリストを受け取り、モデルの次のメッセージを返します。そのリクエストと応答の形は、OpenAI 互換のプロバイダーや SDK が使う共通形式になりました。

[max\_tokens（最大出力トークン数）](https://broadrouter.com/ja/glossary/max-tokens/)

max\_tokens とは、モデルが 1 回の応答で生成できるトークン数の上限を決める LLM API のパラメーターです。生成が上限に達すると止まり、応答は途中で打ち切られたものとして、たとえば finish\_reason が "length" になります。

[TTFT（最初のトークンまでの時間）](https://broadrouter.com/ja/glossary/time-to-first-token/)

TTFT（最初のトークンまでの時間）とは、言語モデルにリクエストを送ってから最初の出力トークンが届くまでの時間です。ネットワーク、サーバーでの待ち行列、モデルがプロンプト全体を読むプリフィルを含むため、プロンプトの長さと負荷に応じて伸びます。

## よくある質問

### LLM のストリーミングで SSE と WebSocket はどう違いますか？

SSE はサーバーからクライアントへの一方向で、通常の HTTP レスポンスの上で動きます。chat completion に必要なのはこれだけなので、OpenAI 互換 API は SSE を使います。WebSocket は双方向で、プロトコルのアップグレードが必要です。使われるのはリアルタイム音声で、chat completions ではありません。

### ストリーミングのチャンクで usage が null になるのはなぜですか？

usage は求めたときにしか送られません。stream\_options を付け、include\_usage を true にしてください。すると最後以外のすべてのチャンクで usage は null になり、最後のチャンクが合計を運び、choices のリストは空になります。

### ストリームをキャンセルしても課金されますか？

プロバイダーによって違い、多くはドキュメントに書いていません。サーバーが接続の切断に気づくまでに生成されたトークンは課金されると考えてください。X-Request-ID を記録し、自分の利用記録と照らし合わせてください。

### ストリームが正常に終わったかどうかはどうわかりますか？

data: \[DONE\] を受け取り、最後のコンテンツチャンクに stop などの finish\_reason が付いていれば正常です。finish\_reason が length なら、max\_tokens で回答が切れています。\[DONE\] がなければ、接続が切れています。

### ストリーミングでモデルは速くなりますか？

なりません。生成にかかる合計時間は同じです。ストリーミングで短くなるのは、ユーザーが最初の言葉を目にするまでの時間で、それがチャット画面を速く感じさせます。

## 続けて読む

-   [LLM のレイテンシ：TTFT、トークン/秒、エンドツーエンドの違い](https://broadrouter.com/ja/blog/llm-latency-ttft-throughput/)
-   [LLM API の利用ログ：ユーザー別・機能別のコストと PII のマスキング](https://broadrouter.com/ja/blog/llm-api-usage-logging/)
-   [LLM API の 429 エラー対処法：バックオフ、ジッター、同時実行制限](https://broadrouter.com/ja/blog/handle-llm-api-429-rate-limits/)
-   [BroadNet の GPU ハードウェアとサービング方式（BroadNet の説明による）](https://broadrouter.com/ja/blog/broadnet-gpu-fleet-and-serving/)
-   [LLM API のレスポンスをキャッシュしてコスト削減：Python の完全一致キャッシュ](https://broadrouter.com/ja/blog/cache-llm-responses-cut-cost/)
-   [ガイド：chat completions のストリーミングと接続切断への対処](https://broadrouter.com/ja/guides/streaming-chat-completions/)
-   [ガイド：OpenAI Python SDK を BroadNet Inference で使う](https://broadrouter.com/ja/guides/openai-python-sdk/)
-   [ガイド：OpenAI Node.js SDK を BroadNet Inference で使う](https://broadrouter.com/ja/guides/openai-node-sdk/)
-   [ガイド：BroadNet Inference のエラーコードとリトライすべき場合](https://broadrouter.com/ja/guides/errors-and-retries/)

実際のワークロードで試してください。新規アカウントには US$5 の初回クレジットがあり、Gemma、文字起こし に使えます。DeepSeek、GLM、Qwen3.8 はチャージが必要です。

[始める](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-blog-llm-streaming-sse-explained&utm_content=page-cta) ·

**出典**

-   [BroadNet Inference API リファレンス：ストリーミングと usage（英語）](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-blog-llm-streaming-sse-explained&utm_content=sources#requests)
-   [MDN：サーバー送信イベントの使用](https://developer.mozilla.org/en-US/docs/Web/API/Server-sent_events/Using_server-sent_events)
-   [OpenAI コミュニティのお知らせ：ストリーミングでの usage 統計（stream\_options）](https://community.openai.com/t/usage-stats-now-available-when-using-streaming-with-the-chat-completions-api-or-completions-api/738156)
-   [openai-python README：ストリーミングレスポンスとリトライ（2026-11-14 取得）](https://github.com/openai/openai-python)
-   [openai-node README：AbortSignal によるキャンセル（2026-11-14 取得）](https://github.com/openai/openai-node)
