---
title: "投機的デコーディングとは？LLM の出力を速くする仕組み | BroadRouter"
description: "投機的デコーディングは、小さなドラフトモデルが予想したトークンを大きなモデルが 1 回のパスでまとめて検証し、生成を速くします。仕組み、効果、限界を解説します。"
url: https://broadrouter.com/ja/glossary/speculative-decoding/
lang: ja
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

このページは英語の原文を AI の支援を受けて翻訳したものです。 [英語の原文を読む](https://broadrouter.com/glossary/speculative-decoding/) (2026-11-16 更新).

# 投機的デコーディング（speculative decoding）

更新日 2026-11-16

投機的デコーディングとは、小さく高速なドラフトモデルが次のトークンを複数提案し、大きなターゲットモデルが 1 回のフォワードパスでそれを検証して受け入れた分を残す推論手法です。出力の分布を変えずに生成を速くします。

別名： 投機的サンプリング、投機的デコード、スペキュレーティブデコーディング、アシスト生成、ドラフトモデル、MTP、speculative decoding、speculative sampling、assisted generation、assisted decoding、draft model decoding

大きなモデルは、1 回のフォワードパスで 1 トークンしか書けません。投機的デコーディングを使うと、1 回のパスで複数のトークンを確定できます。

## 仕組み

Leviathan らは単純な事実から出発します。“decoding K tokens takes K serial runs of the model.”（訳：K 個のトークンをデコードするには、モデルを K 回順番に実行する必要がある。）彼らの解決策は、CPU の投機的実行を借りたものです。

1.  ずっと小さく高速な**ドラフトモデル**が、次の数トークンを予想します。
2.  **ターゲットモデル**が、それらの予想すべてを 1 回のフォワードパスで評価します。Chen らが述べるとおり、短いトークン列の評価にかかるコストは、1 トークンを生成するのとほぼ同じです。
3.  改良した棄却サンプリングの手順で、ターゲットモデルが同意する最長の予想列を残し、続けて自分で 1 トークンをサンプリングします。
4.  新しい位置から繰り返します。

ドラフトがよく当たれば、高コストなパス 1 回で複数のトークンが得られます。外れても損失はわずかで、ターゲットモデルは少なくとも 1 トークンを生成します。Hugging Face のガイドは、ドラフトモデルが “significantly smaller”（訳：大幅に小さい）うえに同じトークナイザーを共有しているときに最もよく効くと補足しています。

別のドラフトモデルを使わない派生手法もあります。同じガイドは、メインのチェックポイントに追加したヘッドが候補を書く、マルチトークン予測（MTP）レイヤーを紹介しています。DeepSeek は DeepSeek V4.1 Flash のモデルカードで、独自の方式 “DSpark speculative decoding”（DSpark 投機的デコーディング）をアーキテクチャの一部として挙げています。

## なぜ重要か

API の利用者にとって、投機的デコーディングはリクエストごとの[トークン毎秒](https://broadrouter.com/ja/glossary/tokens-per-second/)の向上として現れ、長い回答の全体の[レイテンシ](https://broadrouter.com/ja/glossary/latency/)を縮めます。[最初のトークンまでの時間（TTFT）](https://broadrouter.com/ja/glossary/time-to-first-token/)は短くなりません。こちらはプロンプトの読み込みが大半を占めるからです。

効果にはばらつきがあります。コードの編集、JSON、定型文のように予測しやすいテキストはドラフトしやすく、創作的で temperature の高いテキストは難しいため、残る予想が減ります。高負荷時には追加の検証処理がほかのリクエストと競合するので、プロバイダーはユーザーごとの速度か全体の[スループット](https://broadrouter.com/ja/glossary/throughput/)のどちらかに合わせて調整することがあります。

また、これはサーバー側の選択です。標準の chat completions リクエストからオンにすることはできません。

## BroadNet Inference の場合

BroadNet の API リファレンスは投機的デコーディングに触れていません。モデルカタログでは、本番の Gemma 4 26B A4B ビルド（API では [BroadNet Gemma 4 VL 26B](https://broadrouter.com/ja/models/gemma-4-vl-26b/) として提供）が MTP（k=2）で動いているとされ、カタログはこれを投機的デコーディングの一種と説明しています。BroadNet のモデルページでは、このビルドのシングルストリームの速度は毎秒約 136 トークンです。カタログはまた、32 同時リクエストで EAGLE3 によりスループットが 69% 下がったと報告しており、BroadNet が MTP のドラフターを使い続けているのはそのためです。さらに BroadNet は、自己ドラフト型アダプター Uno についての研究を 2 本公開しています。[vLLM での Uno](https://broadrouter.com/ja/blog/uno-in-vllm-serving-study/) と [Gemma 4 26B での Uno](https://broadrouter.com/ja/blog/uno-mixture-of-experts-gemma-4-study/) です。DeepSeek V4.1 Flash で動く定額プランについては、BroadNet のプランページが典型的な速度を 毎秒約 100 トークン としています。自分の出力速度はストリーミングで測ってください。方法は [LLM のレイテンシのガイド](https://broadrouter.com/ja/blog/llm-latency-ttft-throughput/)にあります。

## よくある質問

### 投機的デコーディングで回答は変わりますか？

分布としては変わりません。元の 2 本の論文はどちらも、ターゲットモデルの出力分布を保つ受理ルールを使っているので、品質は大きなモデル単体と同じです。ただし浮動小数点の細かな違いで、実行ごとにわずかに異なることはあります。

### 投機的デコーディングでどのくらい速くなりますか？

元の論文は、T5-XXL でデコードが 2〜3 倍、70B の Chinchilla モデルで 2〜2.5 倍速くなったと報告しています。実際の効果は、ドラフトモデルがどれだけ当たるかで決まります。

### API から投機的デコーディングをオンにできますか？

標準の chat completions リクエストではできません。これはプロバイダーが提供時に決めることです。利用者には出力が速くなる形でしか見えないので、自分のプロンプトでトークン毎秒を測ってください。

## 関連項目

-   [トークン毎秒（TPS、tokens per second）](https://broadrouter.com/ja/glossary/tokens-per-second/) (用語)
-   [レイテンシ（latency）](https://broadrouter.com/ja/glossary/latency/) (用語)
-   [スループット（throughput）](https://broadrouter.com/ja/glossary/throughput/) (用語)
-   [KV キャッシュ（KV cache）](https://broadrouter.com/ja/glossary/kv-cache/) (用語)
-   [混合エキスパート（MoE）](https://broadrouter.com/ja/glossary/mixture-of-experts/) (用語)
-   [chat completions のストリーミングと接続切断への対処](https://broadrouter.com/ja/guides/streaming-chat-completions/) (ガイド)
-   [LLM のレイテンシ：TTFT、トークン/秒、エンドツーエンドの違い](https://broadrouter.com/ja/blog/llm-latency-ttft-throughput/) (記事)
-   [vLLM での Uno：BroadNet のサービング研究は何を測ったか](https://broadrouter.com/ja/blog/uno-in-vllm-serving-study/) (記事)
-   [Gemma 4 26B での Uno：BroadNet の Mixture of Experts 研究](https://broadrouter.com/ja/blog/uno-mixture-of-experts-gemma-4-study/) (記事)

実際のワークロードで試してください。 新規アカウントには US$5 の初回クレジットがあり、Gemma、文字起こし に使えます。DeepSeek、GLM、Qwen3.8 はチャージが必要です。

[始める](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-glossary-speculative-decoding&utm_content=page-cta) ·

**出典**

-   [BroadNet Gemma 4 VL 26B のモデルページ：投機的デコーディング使用時のシングルストリーム速度（2026-11-15 取得） （英語）](https://www.broadnet.ai/inference/models/gemma-4-vl-26b)
-   [Leviathan ら、Fast Inference from Transformers via Speculative Decoding、arXiv 2211.17192（2026-11-16 確認）](https://arxiv.org/abs/2211.17192)
-   [Chen ら、Accelerating Large Language Model Decoding with Speculative Sampling、arXiv 2302.01318（2026-11-16 確認）](https://arxiv.org/abs/2302.01318)
-   [Hugging Face Transformers、assisted decoding（アシストデコーディング）ガイド（2026-11-16 確認）](https://huggingface.co/docs/transformers/en/assisted_decoding)
-   [DeepSeek、DeepSeek-V4.1-Flash のモデルカード（DSpark 投機的デコーディング）（2026-11-16 確認）](https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash)
-   [BroadNet のモデルカタログ（ラボでの測定、2026 年 9 月）（2026-11-16 確認） （英語）](https://www.broadnet.ai/inference/models)
