---
title: "Что такое Batch API для LLM? Асинхронно и вдвое дешевле"
description: "Batch API принимает файл с множеством запросов к LLM, выполняет их асинхронно в пределах временного окна и возвращает все результаты, обычно со скидкой."
url: https://broadrouter.com/ru/glossary/batch-api/
lang: ru
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Переведено с английского с помощью ИИ. [Читать оригинал на английском](https://broadrouter.com/glossary/batch-api/) (обновлён 2026-11-16).

# Batch API (пакетная обработка запросов)

Обновлено 2026-11-16

Batch API — это асинхронный эндпоинт LLM, который принимает сразу много запросов, обычно в виде файла, обрабатывает их не немедленно, а в пределах заданного окна, и возвращает результаты вместе. Такие провайдеры, как OpenAI и Anthropic, берут за пакетные запросы меньше, чем в своих стандартных API.

Также называют: пакетный API, пакетная обработка, пакетные запросы, батч-запросы, батчи, batch processing API, Message Batches API, OpenAI Batch API, batch inference, async batch requests

Многим задачам с LLM ответ не нужен прямо сейчас. Batch API жертвует скоростью ответа ради более низкой цены и большего объёма.

## Как это работает

Вы готовите множество запросов, отправляете их вместе и забираете результаты позже. Две лучше всего задокументированные версии:

|  | OpenAI Batch API | Anthropic Message Batches API |
| --- | --- | --- |
| Ввод | Файл `.jsonl`, по одному запросу на строку | Список запросов Messages |
| Цена | “50% cost discount compared to synchronous APIs” (перевод: «скидка 50% по сравнению с синхронными API») | “50 percent discount on all usage” (перевод: «скидка 50 процентов на всё использование») |
| Срок выполнения | “Each batch completes within 24 hours (and often more quickly)” (перевод: «Каждый пакет завершается в течение 24 часов, а часто и быстрее») | Большинство — в течение 1 часа; истекает, если не завершён за 24 часа |
| Ограничение размера | 50 000 запросов, входной файл до 200 МБ | 100 000 запросов или 256 МБ на пакет |
| Лимиты запросов | Отдельно от лимитов на модель | Распространяются и на пакетные запросы в очереди |

У OpenAI вы загружаете файл, создаёте пакет с `completion_window: "24h"`, опрашиваете его статус и скачиваете выходной файл. Оба API требуют уникальный `custom_id` для каждого запроса, потому что результаты могут вернуться не в том порядке, в каком были во входных данных. Anthropic хранит результаты 29 дней, а скидки на пакеты и на [кэширование промптов](https://broadrouter.com/ru/glossary/cached-input-tokens/) могут суммироваться.

## Почему это важно

Хорошо подходят оценки, классификация большого датасета, массовое суммирование и заполнение исторических данных. Руководство OpenAI называет запуск оценок и классификацию больших датасетов типичными сценариями. Не подходит всё, чего ждёт пользователь.

Экономия реальна, но ограничена. У этих провайдеров пакет вдвое снижает цену токенов, но не уменьшает число отправляемых [входных и выходных токенов](https://broadrouter.com/ru/glossary/input-and-output-tokens/). Сокращать промпты по-прежнему имеет смысл.

Пакетная обработка заодно снимает проблему [лимитов запросов](https://broadrouter.com/ru/glossary/rate-limit/). Вместо того чтобы самому разбираться с 429 и повторами с задержкой, вы отдаёте планирование работы провайдеру.

## В BroadNet Inference

В документации BroadNet нет ни Batch API, ни эндпоинта для файлов, ни скидки на пакеты. Массовая работа в BroadNet — это синхронные запросы, выполняемые параллельно в пределах лимитов ключа: 30 запросов в минуту и 4 одновременно для ключа с оплатой по факту. Обрабатывайте ответы 429 и 5xx с ограниченной экспоненциальной задержкой, как показано в [руководстве по ошибкам и повторам](https://broadrouter.com/ru/guides/errors-and-retries/).

Для долгих заданий на DeepSeek V4.1 Flash сессия тарифа с фиксированной ценой выполняет по одному запросу за раз без учёта токенов, поэтому стоимость определяется временем, а не объёмом. Сравнить оба варианта для объёма вашего задания поможет [калькулятор «фиксированная цена или оплата за токены»](https://broadrouter.com/tools/flat-rate-vs-per-token-calculator/), а [планировщик пакетных заданий LLM](https://broadrouter.com/tools/llm-batch-job-planner/) покажет время выполнения при ваших лимитах и число сессий, нужное к сроку.

## Вопросы и ответы

### Насколько Batch API дешевле?

И OpenAI, и Anthropic указывают в документации скидку 50% по сравнению со стандартными API. У Anthropic скидка действует на входные, выходные и специальные токены.

### Сколько времени выполняется пакет?

OpenAI пишет, что каждый пакет завершается в течение 24 часов, часто быстрее. Anthropic говорит, что большинство пакетов завершаются в течение 1 часа, а если обработка не закончена за 24 часа, пакет истекает.

### Есть ли у BroadNet Batch API?

В документации BroadNet его нет. Массовые задания можно выполнять, отправляя запросы параллельно в пределах лимитов ключа, или на тарифе с фиксированной ценой для DeepSeek V4.1 Flash.

## См. также

-   [Лимит запросов (rate limit)](https://broadrouter.com/ru/glossary/rate-limit/) (термин)
-   [Параллельность (concurrency)](https://broadrouter.com/ru/glossary/concurrency/) (термин)
-   [Пропускная способность (throughput)](https://broadrouter.com/ru/glossary/throughput/) (термин)
-   [Оплата по факту (pay-as-you-go)](https://broadrouter.com/ru/glossary/pay-as-you-go/) (термин)
-   [Входные и выходные токены (input and output tokens)](https://broadrouter.com/ru/glossary/input-and-output-tokens/) (термин)
-   [Коды ошибок BroadNet Inference и когда повторять запрос](https://broadrouter.com/ru/guides/errors-and-retries/) (руководство)
-   [Ошибка 429 в LLM API: экспоненциальная задержка, jitter и лимитеры](https://broadrouter.com/ru/blog/handle-llm-api-429-rate-limits/) (статья)
-   [Как рассчитать стоимость LLM API до запуска функции](https://broadrouter.com/ru/blog/estimate-llm-api-cost-before-launch/) (статья)
-   [Пакетная обработка LLM без Batch API: возобновляемый раннер](https://broadrouter.com/ru/blog/llm-batch-processing-without-batch-api/) (статья)

Проверьте на своей реальной нагрузке. Новые аккаунты получают стартовый грант US$5 на Gemma и распознавание речи. Для DeepSeek, GLM и Qwen3.8 нужно пополнить баланс.

[Начать](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-glossary-batch-api&utm_content=page-cta) ·

**Источники**

-   [OpenAI, руководство по Batch API (проверено 2026-11-16)](https://developers.openai.com/api/docs/guides/batch)
-   [Anthropic, пакетная обработка с Message Batches API (проверено 2026-11-16)](https://platform.claude.com/docs/en/build-with-claude/batch-processing)
-   [Справочник API BroadNet Inference (проверено 2026-11-16) (на английском)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-glossary-batch-api&utm_content=sources)
