---
title: "Что такое prefill и decode? Две фазы инференса LLM | BroadRouter"
description: "Prefill читает весь промпт за один проход, decode пишет ответ по одному токену. Чем отличаются эти фазы и почему от них зависят TTFT и скорость генерации."
url: https://broadrouter.com/ru/glossary/prefill-and-decode/
lang: ru
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Переведено с английского с помощью ИИ. [Читать оригинал на английском](https://broadrouter.com/glossary/prefill-and-decode/) (обновлён 2026-11-16).

# Prefill и decode (префилл и декодирование)

Обновлено 2026-11-16

Prefill и decode — это две фазы инференса LLM. На этапе prefill модель параллельно обрабатывает весь промпт и заполняет KV-кэш; на этапе decode она генерирует ответ по одному токену, повторно используя этот кэш. Prefill в основном определяет время до первого токена, decode — скорость вывода.

Также называют: префилл, фаза prefill, фаза декодирования, декодирование, обработка промпта, prefill, prefill phase, decode phase, prefill stage, prompt processing

Запрос к чату выполняет две разные работы: прочитать промпт, а затем написать ответ. Инженеры инференса называют их prefill и decode, и на GPU они ведут себя совсем по-разному.

## Как это работает

1.  **Prefill.** Модель читает все токены промпта за один параллельный проход и сохраняет ключи и значения внимания для каждого токена в [KV-кэше](https://broadrouter.com/ru/glossary/kv-cache/). Пока ничего не возвращается.
2.  **Decode.** Модель генерирует один токен, добавляет его ключи и значения в кэш и повторяет, пока не остановится или не упрётся в `max_tokens`.

Статья о Sarathi-Serve описывает контраст прямо: “Prefill iterations have high latency but saturate GPU compute due to parallel processing of the input prompt” (перевод: «итерации prefill имеют высокую задержку, но полностью загружают вычислительные ресурсы GPU благодаря параллельной обработке входного промпта»), тогда как “decode iterations have low latency but also low compute utilization.” (перевод: «итерации decode имеют низкую задержку, но и низкую загрузку вычислительных ресурсов».)

Две фазы соответствуют двум показателям задержки, которые ощущают пользователи. Статья о DistServe называет их: “time to first token (TTFT) for the prefill phase and time per output token (TPOT) of each request for the decoding phase.” (перевод: «время до первого токена (TTFT) для фазы prefill и время на выходной токен (TPOT) каждого запроса для фазы декодирования».)

Пример: запрос с промптом на 20 000 токенов и ответом на 300 токенов сначала выполняет prefill всех 20 000 токенов, и только потом в потоке появляется первый токен, а затем идут 300 последовательных шагов decode. Если сократить промпт вдвое, ждать первого токена придётся меньше, но скорость прихода 300 токенов не изменится.

## Почему это важно

-   **[Время до первого токена](https://broadrouter.com/ru/glossary/time-to-first-token/) зависит от размера промпта.** Длинные системные промпты, документы и списки инструментов — всё это добавляет работы на prefill. Кэшированные префиксы позволяют пропустить её часть, поэтому [вход из кэша](https://broadrouter.com/ru/glossary/cached-input-tokens/) может ускорить старт длинных промптов.
-   **[Токены в секунду](https://broadrouter.com/ru/glossary/tokens-per-second/) — показатель decode.** Скорость вывода зависит от того, как быстро выполняется каждый шаг decode; повысить её пытается [спекулятивное декодирование](https://broadrouter.com/ru/glossary/speculative-decoding/).
-   **Фазы мешают друг другу.** Когда сервер выполняет обе на одном GPU, большой prefill может приостановить decode у других пользователей. DistServe сообщает о “strong prefill-decoding interferences” (перевод: «сильных взаимных помехах prefill и decode») и разносит фазы по разным GPU. Sarathi-Serve вместо этого “splits a prefill request into near equal sized chunks” (перевод: «делит запрос prefill на почти равные части») и планирует их “without pausing ongoing decodes” (перевод: «не приостанавливая текущие decode»).
-   **Движки дают управлять компромиссом.** Руководство vLLM по настройке говорит, что chunked prefill позволяет объединять части prefill с запросами decode в один батч. Меньшее значение `max_num_batched_tokens` улучшает задержку между токенами, а большее выгодно для TTFT и [пропускной способности](https://broadrouter.com/ru/glossary/throughput/).

Статья [о задержке, TTFT и пропускной способности](https://broadrouter.com/ru/blog/llm-latency-ttft-throughput/) показывает, как измерить обе фазы на стороне клиента.

## В BroadNet Inference

BroadNet не публикует, как её серверы планируют prefill и decode. Видно только следствие: стримьте ответ, как в [руководстве по стримингу](https://broadrouter.com/ru/guides/streaming-chat-completions/), и записывайте время до первого фрагмента с содержимым (в основном prefill плюс ожидание в очереди) и частоту фрагментов после него (decode). У [GLM 5.3](https://broadrouter.com/ru/models/glm-5.3/), [DeepSeek V4.1 Flash](https://broadrouter.com/ru/models/deepseek-v4.1-flash/) и [Qwen3.8 27B](https://broadrouter.com/ru/models/qwen3.8-27b/) токены рассуждений тоже генерируются на этапе decode, поэтому они откладывают видимый ответ и учитываются в `max_tokens`.

## Частые ошибки

-   Винить в медленном первом токене скорость вывода модели. Сначала проверьте длину промпта.
-   Проводить бенчмарк на крошечном промпте. У реальных промптов с длинным контекстом prefill гораздо дольше.

## Вопросы и ответы

### Почему из-за длинного промпта первый токен появляется медленно?

Каждый токен промпта должен пройти prefill, прежде чем модель что-то напишет. Чем длиннее промпт, тем больше работы на prefill, поэтому время до первого токена растёт с длиной промпта, если только часть промпта не берётся из кэша.

### Замедляет ли длинный ответ появление первого токена?

Нет. Первый токен ждёт prefill промпта. Длинный ответ лишь добавляет шаги decode после того, как первый токен уже пришёл.

### Что такое chunked prefill?

Это способ планирования, при котором длинный промпт делится на части и перемежается с текущими шагами decode, чтобы один большой промпт не задерживал других пользователей. vLLM включает его по умолчанию там, где это возможно.

## См. также

-   [KV-кэш (KV cache)](https://broadrouter.com/ru/glossary/kv-cache/) (термин)
-   [Время до первого токена (TTFT)](https://broadrouter.com/ru/glossary/time-to-first-token/) (термин)
-   [Токены в секунду (tokens per second, TPS)](https://broadrouter.com/ru/glossary/tokens-per-second/) (термин)
-   [Пропускная способность (throughput)](https://broadrouter.com/ru/glossary/throughput/) (термин)
-   [Задержка (latency)](https://broadrouter.com/ru/glossary/latency/) (термин)
-   [vLLM](https://broadrouter.com/ru/glossary/vllm/) (термин)
-   [Стриминг chat completions и обрыв соединения](https://broadrouter.com/ru/guides/streaming-chat-completions/) (руководство)
-   [Задержка LLM: TTFT, токены в секунду и полное время ответа](https://broadrouter.com/ru/blog/llm-latency-ttft-throughput/) (статья)
-   [Своя LLM на GPU или API: реальная стоимость и точка окупаемости](https://broadrouter.com/ru/blog/self-hosting-llm-vs-api-cost/) (статья)

Проверьте на своей реальной нагрузке. Новые аккаунты получают стартовый грант US$5 на Gemma и распознавание речи. Для DeepSeek, GLM и Qwen3.8 нужно пополнить баланс.

[Начать](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-glossary-prefill-and-decode&utm_content=page-cta) ·

**Источники**

-   [Zhong et al., DistServe: Disaggregating Prefill and Decoding for Goodput-optimized LLM Serving, arXiv 2401.09670 (проверено 2026-11-15)](https://arxiv.org/abs/2401.09670)
-   [Agrawal et al., Taming Throughput-Latency Tradeoff in LLM Inference with Sarathi-Serve, arXiv 2403.02310 (проверено 2026-11-15)](https://arxiv.org/abs/2403.02310)
-   [Документация vLLM, оптимизация и настройка: chunked prefill (проверено 2026-11-15)](https://docs.vllm.ai/en/latest/configuration/optimization/)
