---
title: "LLM के लिए Batch API क्या है? आधी कीमत पर async जॉब | BroadRouter"
description: "Batch API कई LLM अनुरोधों की एक फ़ाइल लेता है, उन्हें एक तय समय-सीमा में asynchronously चलाता है और सारे नतीजे एक साथ लौटाता है, आम तौर पर छूट के साथ।"
url: https://broadrouter.com/hi/glossary/batch-api/
lang: hi
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

यह पेज अंग्रेज़ी से AI की मदद से अनुवाद किया गया है। [अंग्रेज़ी मूल पढ़ें](https://broadrouter.com/glossary/batch-api/) (2026-11-16 को अपडेट किया गया).

# Batch API (बैच API)

अपडेट किया गया 2026-11-16

Batch API एक asynchronous LLM एंडपॉइंट है जो एक साथ कई अनुरोध लेता है, आम तौर पर एक फ़ाइल के रूप में, उन्हें तुरंत नहीं बल्कि एक तय समय-सीमा में प्रोसेस करता है, और नतीजे एक साथ लौटाता है। OpenAI और Anthropic जैसे प्रोवाइडर batch अनुरोधों की कीमत अपने सामान्य API से कम रखते हैं।

अन्य नाम: बैच API, बैच प्रोसेसिंग, batch api kya hai, batch processing kya hai, batch processing API, Message Batches API, OpenAI Batch API, batch inference, async batch requests

कई LLM जॉब को जवाब अभी नहीं चाहिए। Batch API जवाब की रफ़्तार के बदले कम कीमत और ज़्यादा वॉल्यूम देता है।

## यह कैसे काम करता है

आप कई अनुरोध तैयार करते हैं, उन्हें एक साथ जमा करते हैं, और नतीजे बाद में लेते हैं। सबसे अच्छी तरह दस्तावेज़ किए गए दो रूप:

|  | OpenAI Batch API | Anthropic Message Batches API |
| --- | --- | --- |
| इनपुट | एक `.jsonl` फ़ाइल, हर लाइन में एक अनुरोध | Messages अनुरोधों की एक सूची |
| कीमत | “50% cost discount compared to synchronous APIs” (अनुवाद: synchronous API की तुलना में 50% छूट) | “50 percent discount on all usage” (अनुवाद: सारे उपयोग पर 50 प्रतिशत छूट) |
| पूरा होने का समय | “Each batch completes within 24 hours (and often more quickly)” (अनुवाद: हर batch 24 घंटे में, और अक्सर जल्दी, पूरा होता है) | ज़्यादातर 1 घंटे में; 24 घंटे में पूरा न हो तो expire |
| आकार सीमा | 50,000 अनुरोध, 200 MB इनपुट फ़ाइल | प्रति batch 100,000 अनुरोध या 256 MB |
| रेट लिमिट | प्रति-मॉडल लिमिट से अलग | क़तार में लगे batch अनुरोधों पर भी लागू |

OpenAI में आप फ़ाइल अपलोड करते हैं, `completion_window: "24h"` के साथ batch बनाते हैं, उसकी स्थिति पोल करते हैं और आउटपुट फ़ाइल डाउनलोड करते हैं। दोनों API में हर अनुरोध का अलग `custom_id` ज़रूरी है, क्योंकि नतीजे इनपुट से अलग क्रम में आ सकते हैं। Anthropic नतीजे 29 दिन रखता है, और उसकी batch और [prompt caching](https://broadrouter.com/hi/glossary/cached-input-tokens/) छूट एक साथ मिल सकती हैं।

## यह क्यों मायने रखता है

अच्छे इस्तेमाल हैं मूल्यांकन, बड़े डेटासेट का वर्गीकरण, बड़ी मात्रा में सारांश और पुराना डेटा भरना (back-filling)। OpenAI की गाइड मूल्यांकन चलाने और बड़े डेटासेट वर्गीकृत करने को आम इस्तेमाल बताती है। ख़राब इस्तेमाल है हर वह चीज़ जिसका यूज़र इंतज़ार कर रहा हो।

बचत असली है, लेकिन सीमित। इन प्रोवाइडर पर batch टोकन की कीमत आधी करता है; यह आपके भेजे [इनपुट और आउटपुट टोकन](https://broadrouter.com/hi/glossary/input-and-output-tokens/) की संख्या कम नहीं करता। प्रॉम्प्ट छोटे करना अब भी मायने रखता है।

Batch [रेट लिमिट](https://broadrouter.com/hi/glossary/rate-limit/) की समस्या से भी बचाता है। 429 और backoff ख़ुद सँभालने के बजाय प्रोवाइडर काम शेड्यूल करता है।

## BroadNet Inference पर

BroadNet के डॉक्स में कोई Batch API, files एंडपॉइंट या batch छूट दर्ज नहीं है। BroadNet पर बड़ा काम मतलब अपनी key की सीमाओं के भीतर पैरेलल चलने वाले synchronous अनुरोध: उपयोग के अनुसार भुगतान वाली key पर प्रति मिनट 30 अनुरोध और एक साथ 4 चालू अनुरोध। 429 और 5xx जवाबों को सीमित exponential backoff से सँभालें, जैसा [errors और retries गाइड](https://broadrouter.com/hi/guides/errors-and-retries/) दिखाती है।

DeepSeek V4.1 Flash पर लंबे जॉब के लिए फ़्लैट प्लान का एक सेशन एक समय में एक अनुरोध चलाता है, बिना टोकन मीटर के, इसलिए लागत वॉल्यूम से नहीं, समय से तय होती है। अपने जॉब के आकार पर दोनों की तुलना के लिए [फ़्लैट रेट बनाम प्रति टोकन कैलकुलेटर](https://broadrouter.com/tools/flat-rate-vs-per-token-calculator/) इस्तेमाल करें, और अपनी सीमाओं में रन टाइम और डेडलाइन के लिए ज़रूरी सेशन जानने के लिए [LLM batch जॉब प्लानर](https://broadrouter.com/tools/llm-batch-job-planner/)।

## अक्सर पूछे जाने वाले सवाल

### Batch API कितना सस्ता है?

OpenAI और Anthropic दोनों अपने सामान्य API की तुलना में 50% छूट दर्ज करते हैं। Anthropic की छूट इनपुट, आउटपुट और special टोकन पर लागू होती है।

### एक batch में कितना समय लगता है?

OpenAI कहता है कि हर batch 24 घंटे के भीतर पूरा होता है, अक्सर पहले। Anthropic कहता है कि ज़्यादातर batch 1 घंटे में पूरे होते हैं, और 24 घंटे में प्रोसेसिंग पूरी न हो तो expire हो जाते हैं।

### क्या BroadNet के पास Batch API है?

BroadNet के डॉक्स में कोई Batch API दर्ज नहीं है। बड़े जॉब आप अपनी key की सीमाओं के भीतर पैरेलल अनुरोध भेजकर चला सकते हैं, या DeepSeek V4.1 Flash के लिए फ़्लैट प्लान पर।

## यह भी देखें

-   [रेट लिमिट (rate limit)](https://broadrouter.com/hi/glossary/rate-limit/) (शब्द)
-   [कॉन्करेंसी (concurrency)](https://broadrouter.com/hi/glossary/concurrency/) (शब्द)
-   [थ्रूपुट (throughput)](https://broadrouter.com/hi/glossary/throughput/) (शब्द)
-   [उपयोग के अनुसार भुगतान (pay-as-you-go)](https://broadrouter.com/hi/glossary/pay-as-you-go/) (शब्द)
-   [इनपुट और आउटपुट टोकन (input and output tokens)](https://broadrouter.com/hi/glossary/input-and-output-tokens/) (शब्द)
-   [BroadNet Inference के एरर कोड और रीट्राई कब करें](https://broadrouter.com/hi/guides/errors-and-retries/) (गाइड)
-   [LLM API में 429 एरर कैसे सँभालें: बैकऑफ़, जिटर और लिमिटर](https://broadrouter.com/hi/blog/handle-llm-api-429-rate-limits/) (लेख)
-   [फ़ीचर लॉन्च से पहले LLM API की लागत का अनुमान कैसे लगाएँ](https://broadrouter.com/hi/blog/estimate-llm-api-cost-before-launch/) (लेख)
-   [Batch API के बिना LLM बैच प्रोसेसिंग: दोबारा शुरू होने वाला runner](https://broadrouter.com/hi/blog/llm-batch-processing-without-batch-api/) (लेख)

इसे अपने असली वर्कलोड पर आज़माएँ। नए अकाउंट Gemma और ट्रांसक्रिप्शन के लिए US$5 के क्रेडिट से शुरू होते हैं। DeepSeek, GLM, और Qwen3.8 के लिए टॉप-अप ज़रूरी है।

[शुरू करें](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-glossary-batch-api&utm_content=page-cta) ·

**स्रोत**

-   [OpenAI, Batch API गाइड (जाँच: 2026-11-16)](https://developers.openai.com/api/docs/guides/batch)
-   [Anthropic, Message Batches API से batch प्रोसेसिंग (जाँच: 2026-11-16)](https://platform.claude.com/docs/en/build-with-claude/batch-processing)
-   [BroadNet Inference API रेफ़रंस (जाँच: 2026-11-16) (अंग्रेज़ी में)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-glossary-batch-api&utm_content=sources)
