---
title: "Что такое спекулятивное декодирование? Ускорение LLM"
description: "Спекулятивное декодирование ускоряет генерацию LLM: малая черновая модель угадывает токены, а большая проверяет их за один проход. Как работает, выигрыш и пределы."
url: https://broadrouter.com/ru/glossary/speculative-decoding/
lang: ru
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Переведено с английского с помощью ИИ. [Читать оригинал на английском](https://broadrouter.com/glossary/speculative-decoding/) (обновлён 2026-11-16).

# Спекулятивное декодирование (speculative decoding)

Обновлено 2026-11-16

Спекулятивное декодирование — это техника инференса, при которой небольшая быстрая черновая модель предлагает несколько следующих токенов, а большая целевая модель проверяет их за один прямой проход и оставляет принятые. Генерация ускоряется, а распределение выходных токенов не меняется.

Также называют: спекулятивное декодирование, спекулятивный сэмплинг, черновая модель, draft-модель, MTP, speculative sampling, assisted generation, assisted decoding, draft model decoding

Большая модель пишет один токен за прямой проход. Спекулятивное декодирование позволяет ей подтверждать за проход сразу несколько токенов.

## Как это работает

Leviathan и др. исходят из простого факта: “decoding K tokens takes K serial runs of the model.” (перевод: «декодирование K токенов требует K последовательных прогонов модели».) Решение они заимствуют у спекулятивного выполнения в процессорах:

1.  **Черновая модель**, гораздо меньше и быстрее, угадывает несколько следующих токенов.
2.  **Целевая модель** оценивает все эти догадки за один прямой проход. Как замечают Chen и др., оценка короткой последовательности токенов стоит примерно столько же, сколько генерация одного.
3.  Модифицированный шаг выборки с отклонением (rejection sampling) оставляет самую длинную цепочку догадок, с которой согласна целевая модель, а затем сэмплирует один собственный токен.
4.  Всё повторяется с новой позиции.

Если черновик часто угадывает, каждый дорогой проход даёт несколько токенов. Если ошибается, вы почти ничего не теряете: целевая модель всё равно выдаёт как минимум один токен. Руководство Hugging Face добавляет, что метод работает лучше всего, когда черновая модель “significantly smaller” (перевод: «значительно меньше») и использует тот же токенизатор.

Есть варианты без отдельной черновой модели. То же руководство описывает слои multi-token prediction (MTP), где кандидатов набрасывают дополнительные головы в основном чекпоинте. В карточке модели DeepSeek V4.1 Flash указана собственная схема DeepSeek — “DSpark speculative decoding” (спекулятивное декодирование DSpark) — как часть архитектуры.

## Почему это важно

Для клиента API спекулятивное декодирование выражается в более высокой скорости [в токенах в секунду](https://broadrouter.com/ru/glossary/tokens-per-second/) на запрос, что сокращает общую [задержку](https://broadrouter.com/ru/glossary/latency/) на длинных ответах. [Время до первого токена](https://broadrouter.com/ru/glossary/time-to-first-token/) оно не сокращает: там основное время уходит на чтение промпта.

Выигрыш неравномерный. Предсказуемый текст — правки кода, JSON, шаблонный текст — легко набросать черновиком. Творческий текст с высокой температурой сложнее, и догадок выживает меньше. Под высокой нагрузкой дополнительная проверка конкурирует с другими запросами, поэтому провайдер может настраивать её либо на скорость для одного пользователя, либо на общую [пропускную способность](https://broadrouter.com/ru/glossary/throughput/).

Кроме того, это выбор на стороне сервера. Включить его стандартным запросом chat completions нельзя.

## В BroadNet Inference

Справочник API BroadNet не упоминает спекулятивное декодирование. В её каталоге моделей указано, что продакшен-сборка Gemma 4 26B A4B, доступная в API как [BroadNet Gemma 4 VL 26B](https://broadrouter.com/ru/models/gemma-4-vl-26b/), работает с MTP (k=2), что каталог описывает как разновидность спекулятивного декодирования. На странице модели BroadNet оценивает скорость этой сборки примерно в 136 токенов в секунду на одном потоке. Каталог также сообщает, что EAGLE3 снизил пропускную способность на 69 % при 32 одновременных запросах, поэтому BroadNet оставила черновики MTP; кроме того, BroadNet опубликовала два исследования Uno, самочерновикового адаптера: [Uno в vLLM](https://broadrouter.com/ru/blog/uno-in-vllm-serving-study/) и [Uno на Gemma 4 26B](https://broadrouter.com/ru/blog/uno-mixture-of-experts-gemma-4-study/). Для тарифов с фиксированной ценой, которые работают на DeepSeek V4.1 Flash, страница тарифов BroadNet указывает типичную скорость около 100 токенов в секунду. Скорость вывода в своих задачах измеряйте через стриминг; как это сделать, показано в [руководстве по задержке LLM](https://broadrouter.com/ru/blog/llm-latency-ttft-throughput/).

## Вопросы и ответы

### Меняет ли спекулятивное декодирование ответ?

По распределению — нет. Обе исходные статьи используют правило принятия, сохраняющее распределение вывода целевой модели, так что качество совпадает с большой моделью без ускорения. Из-за деталей вычислений с плавающей точкой результаты разных запусков всё же могут немного различаться.

### Насколько ускоряет спекулятивное декодирование?

Исходные статьи сообщают об ускорении декодирования в 2–3 раза на T5-XXL и в 2–2,5 раза на модели Chinchilla 70B. Реальный выигрыш зависит от того, как часто черновая модель угадывает.

### Можно ли включить спекулятивное декодирование через API?

В стандартном запросе chat completions — нет. Это решение провайдера на стороне сервинга. Вы видите его только как более быстрый вывод, поэтому измеряйте токены в секунду на своих промптах.

## См. также

-   [Токены в секунду (tokens per second, TPS)](https://broadrouter.com/ru/glossary/tokens-per-second/) (термин)
-   [Задержка (latency)](https://broadrouter.com/ru/glossary/latency/) (термин)
-   [Пропускная способность (throughput)](https://broadrouter.com/ru/glossary/throughput/) (термин)
-   [KV-кэш (KV cache)](https://broadrouter.com/ru/glossary/kv-cache/) (термин)
-   [Смесь экспертов (mixture of experts, MoE)](https://broadrouter.com/ru/glossary/mixture-of-experts/) (термин)
-   [Стриминг chat completions и обрыв соединения](https://broadrouter.com/ru/guides/streaming-chat-completions/) (руководство)
-   [Задержка LLM: TTFT, токены в секунду и полное время ответа](https://broadrouter.com/ru/blog/llm-latency-ttft-throughput/) (статья)
-   [Uno в vLLM: что измерило исследование инференса BroadNet](https://broadrouter.com/ru/blog/uno-in-vllm-serving-study/) (статья)
-   [Uno на Gemma 4 26B: исследование BroadNet по mixture-of-experts](https://broadrouter.com/ru/blog/uno-mixture-of-experts-gemma-4-study/) (статья)

Проверьте на своей реальной нагрузке. Новые аккаунты получают стартовый грант US$5 на Gemma и распознавание речи. Для DeepSeek, GLM и Qwen3.8 нужно пополнить баланс.

[Начать](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-glossary-speculative-decoding&utm_content=page-cta) ·

**Источники**

-   [Страница модели BroadNet Gemma 4 VL 26B: скорость одного потока со спекулятивным декодированием (дата обращения 2026-11-15) (на английском)](https://www.broadnet.ai/inference/models/gemma-4-vl-26b)
-   [Leviathan и др., Fast Inference from Transformers via Speculative Decoding, arXiv 2211.17192 (проверено 2026-11-16)](https://arxiv.org/abs/2211.17192)
-   [Chen и др., Accelerating Large Language Model Decoding with Speculative Sampling, arXiv 2302.01318 (проверено 2026-11-16)](https://arxiv.org/abs/2302.01318)
-   [Hugging Face Transformers, руководство по assisted decoding (проверено 2026-11-16)](https://huggingface.co/docs/transformers/en/assisted_decoding)
-   [DeepSeek, карточка модели DeepSeek-V4.1-Flash (спекулятивное декодирование DSpark) (проверено 2026-11-16)](https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash)
-   [Каталог моделей BroadNet (измерения лаборатории, сентябрь 2026) (проверено 2026-11-16) (на английском)](https://www.broadnet.ai/inference/models)
