---
title: "LLM API の TTFT（最初のトークンまでの時間）とは？ | BroadRouter"
description: "TTFT（最初のトークンまでの時間）は、LLM にリクエストを送ってから最初の出力トークンを受け取るまでの待ち時間です。待ち行列、プリフィル、ネットワークという内訳を解説します。"
url: https://broadrouter.com/ja/glossary/time-to-first-token/
lang: ja
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

このページは英語の原文を AI の支援を受けて翻訳したものです。[英語の原文を読む](https://broadrouter.com/glossary/time-to-first-token/)（2026-11-16 更新）。

# TTFT（最初のトークンまでの時間）

更新日 2026-11-16

TTFT（最初のトークンまでの時間）とは、言語モデルにリクエストを送ってから最初の出力トークンが届くまでの時間です。ネットワーク、サーバーでの待ち行列、モデルがプロンプト全体を読むプリフィルを含むため、プロンプトの長さと負荷に応じて伸びます。

別名： 最初のトークンまでの時間、初回トークンまでの時間、ファーストトークンレイテンシ、初回応答時間、TTFT、time to first token、first-token latency、time to first content token、first token time

TTFT は、何かが起きる前の間（ま）です。チャット画面なら真っ白な画面、音声ボットなら無音の時間です。

## しくみ

NVIDIA のベンチマークのガイドは、TTFT を「request queuing time, prefill time, and network latency.」（訳：リクエストの待ち行列の時間、プリフィルの時間、ネットワークのレイテンシ）の 3 つに分けています。それぞれ原因が異なります。

| 要素 | 決める要因 | 変えられること |
| --- | --- | --- |
| ネットワーク | 距離、TLS の確立、プロキシ | 接続を再利用する。近いリージョンから呼ぶ |
| 待ち行列 | サーバーの混雑具合 | 時間帯をずらす。負荷の低いモデルや区分を使う |
| プリフィル | プロンプトの長さ、モデルの大きさ | プロンプトを短くする。キャッシュできる安定したプレフィックスにする |

長い入力では、たいていプリフィルが最も大きな要素です。モデルは最初のトークンを出す前に、プロンプト全体をすべての層に通して [KV キャッシュ](https://broadrouter.com/ja/glossary/kv-cache/)を作ります。NVIDIA によると、混雑したサーバーでは、あるリクエストのプリフィルが別のリクエストの生成と重なることがあるので、TTFT はほかの人のトラフィックにも左右されます。

数値を読むときは、2 つの定義に注意してください。NVIDIA の AIPerf は、内容を含む場合にだけ最初のトークンとして数えます。Responses API のストリーミングテキストについて、OpenAI のガイドは TTFT を「until you receive the first nonempty response.output\_text.delta」（訳：空でない最初の response.output\_text.delta を受け取るまで）で計測します。[推論トークン](https://broadrouter.com/ja/glossary/reasoning-tokens/)がある場合、最初に見える言葉は、最初に生成されたトークンよりずっと後になることがあるので、どちらを指すのかを明確にしてください。

## なぜ重要か

製品の体感速度を決めるのは、生の速度よりも TTFT です。OpenAI のガイドは「a long prompt can delay the first token, especially when much of the input is new」（訳：長いプロンプトは、特に入力の多くが新しい場合、最初のトークンを遅らせる）と述べています。[キャッシュされた入力トークン](https://broadrouter.com/ja/glossary/cached-input-tokens/)が効くのはこの点です。同じガイドは、プロンプトキャッシュは「can reuse an eligible exact prefix match」（訳：条件を満たす完全一致のプレフィックスを再利用できる）と述べ、キャッシュヒットの有無で TTFT を比べることを勧めています。キャッシュされたプレフィックスはプリフィルの一部を省くので、繰り返し送るシステムプロンプトは安くなるうえ、早く始められることがあります。

エージェントでは、ステップごとに TTFT がかかります。TTFT が 2 秒のツール呼び出しが 20 回あれば、出力を数える前に 40 秒の待ち時間が加わります。

TTFT はエンドツーエンドの[レイテンシ](https://broadrouter.com/ja/glossary/latency/)の一部です。残りは生成時間で、[1 秒あたりのトークン数](https://broadrouter.com/ja/glossary/tokens-per-second/)で決まります。

## BroadNet Inference の場合

BroadNet のドキュメントは、Server-Sent Events を使い `data: [DONE]` で終わる[ストリーミング](https://broadrouter.com/ja/glossary/streaming/)を説明しており、クライアントで最初のトークンを観測するにはこれを使います。DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B は回答の前に推論するので、最初に見えるテキストまでの時間には推論が含まれます。BroadNet は TTFT の数値を公表していません。計測用のスクリプトと p50/p95 の報告方法は、[LLM のレイテンシ：TTFT とトークン/秒](https://broadrouter.com/ja/blog/llm-latency-ttft-throughput/)を参照してください。

## よくある質問

### プロンプトが長いと TTFT が遅くなるのはなぜですか？

モデルは何かを書き始める前に、プロンプトのトークンをすべて読んで KV キャッシュを作る必要があります。NVIDIA の指標ガイドも、まさにこの理由でプロンプトが長いほど TTFT が増えるとしています。

### ストリーミングで最初のトークンまでの時間は短くなりますか？

いいえ。ストリーミングでは、最初のトークンができた時点ですぐ見えるようになります。ストリーミングしなければ、応答全体を待つことになります。そのトークンまでのサーバー側の処理は、どちらでも同じです。

### 空の最初のチャンクは最初のトークンに数えますか？

多くのベンチマークでは数えません。NVIDIA の AIPerf は内容のない最初の応答を無視し、OpenAI は空でない最初のテキストのデルタまでを TTFT として計測します。

## 関連項目

-   [レイテンシ（latency）](https://broadrouter.com/ja/glossary/latency/)（用語）
-   [トークン毎秒（TPS、tokens per second）](https://broadrouter.com/ja/glossary/tokens-per-second/)（用語）
-   [KV キャッシュ（KV cache）](https://broadrouter.com/ja/glossary/kv-cache/)（用語）
-   [ストリーミング（streaming）](https://broadrouter.com/ja/glossary/streaming/)（用語）
-   [キャッシュ入力トークン（cached input tokens）](https://broadrouter.com/ja/glossary/cached-input-tokens/)（用語）
-   [投機的デコーディング（speculative decoding）](https://broadrouter.com/ja/glossary/speculative-decoding/)（用語）
-   [プリフィルとデコード（prefill and decode）](https://broadrouter.com/ja/glossary/prefill-and-decode/)（用語）
-   [chat completions のストリーミングと接続切断への対処](https://broadrouter.com/ja/guides/streaming-chat-completions/)（ガイド）
-   [推論モデルが空の回答を返す理由](https://broadrouter.com/ja/guides/reasoning-tokens-empty-response/)（ガイド）
-   [LLM のレイテンシ：TTFT、トークン/秒、エンドツーエンドの違い](https://broadrouter.com/ja/blog/llm-latency-ttft-throughput/)（記事）
-   [LLM のストリーミング解説：SSE のチャンク、delta、usage、キャンセル](https://broadrouter.com/ja/blog/llm-streaming-sse-explained/)（記事）

実際のワークロードで試してください。新規アカウントには US$5 の初回クレジットがあり、Gemma、文字起こし に使えます。DeepSeek、GLM、Qwen3.8 はチャージが必要です。

[始める](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-glossary-time-to-first-token&utm_content=page-cta) ·

**出典**

-   [NVIDIA NIM、LLM ベンチマークの指標（最初のトークンまでの時間）](https://docs.nvidia.com/nim/benchmarking/llm/latest/metrics.html)
-   [OpenAI、レイテンシ最適化のガイド](https://developers.openai.com/api/docs/guides/latency-optimization)
-   [BroadNet Inference API リファレンス、ストリーミングと推論（英語）](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-glossary-time-to-first-token&utm_content=sources)
