BroadRouter

LLM API की लागत कैसे कम करें: 10 कदमों की चेकलिस्ट, सही क्रम में

BroadNet Inference टीम · 8 मिनट में पढ़ें · प्रकाशित

LLM API की लागत कम करने के लिए पहले हर अनुरोध के टोकन लॉग करें, फिर इसी क्रम में चलें: प्रॉम्प्ट का प्रीफ़िक्स स्थिर रखें ताकि वह कैश हो, प्रॉम्प्ट छोटा करें, आउटपुट और रीज़निंग सीमित करें, टेस्ट पास करने वाला सबसे छोटा मॉडल चुनें, रुक सकने वाला काम बैच करें या टालें, दोहराए गए जवाब कैश करें, रीट्राई सीमित करें, और ब्रेक-ईवन पार होने पर फ़्लैट प्लान लें।

“LLM का बिल 70% घटाएँ” जैसी ज़्यादातर सूचियाँ अच्छी सलाह के साथ ऐसी संख्याएँ मिला देती हैं जिन्हें किसी ने मापा नहीं। यह चेकलिस्ट इस क्रम में है कि पहले क्या करना चाहिए, और हर आँकड़ा किसी प्राइस फ़ाइल या प्रोवाइडर के अपने डॉक्यूमेंटेशन से लिया गया है। जिस कदम पर इस साइट पर ज़्यादा विस्तृत पोस्ट है, वहाँ उसका लिंक दिया गया है। नीचे दी गई BroadNet की कीमतें उसकी प्राइसिंग फ़ाइल से हैं, जो 2026-11-14 को सिंक की गई।

LLM API का बिल किन चीज़ों से बनता है?

लगभग हर बिल चार संख्याओं से तय होता है:

  1. नए इनपुट टोकन। प्रॉम्प्ट, उस हिस्से को छोड़कर जो कैश से पढ़ा गया।
  2. कैश्ड इनपुट टोकन। दोहराया जाने वाला प्रीफ़िक्स, जो कम दर पर बिल होता है।
  3. आउटपुट टोकन। जवाब, और थिंकिंग मॉडल पर साथ में रीज़निंग टोकन।
  4. अनुरोधों की संख्या। हर कॉल, हर रीट्राई समेत, अलग से बिल होती है।

सबसे महँगी इकाई आउटपुट है। BroadNet के चैट मॉडल पर, प्रति 1M टोकन:

मॉडल इनपुट कैश्ड इनपुट आउटपुट
DeepSeek V4.1 Flash $0.175 $0.0055 $0.52
Qwen3.8 27B $0.175 $0.0435 $2.17
GLM 5.3 $0.78 $0.173 $3.46
Gemma 4 VL 26B $0.10 प्रकाशित नहीं $0.22

यानी आपके पास ये रास्ते हैं: कम नए टोकन भेजें, ज़्यादा कैश से पढ़ें, कम जेनरेट करें और कम कॉल करें। LLM API की कीमत कैसे तय होती है में हर इकाई विस्तार से समझाई गई है।

एक नज़र में चेकलिस्ट

कदम आप क्या बदलते हैं क्या घटता है मेहनत
1. मापें सिर्फ़ लॉगिंग अभी कुछ नहीं; पता चलता है कि कहाँ घटाना है कम
2. प्रीफ़िक्स कैश करें प्रॉम्प्ट का क्रम इनपुट की कीमत कम
3. प्रॉम्प्ट छोटा करें प्रॉम्प्ट की सामग्री इनपुट टोकन मध्यम
4. आउटपुट और रीज़निंग सीमित करें अनुरोध की सेटिंग आउटपुट टोकन कम
5. सही आकार का मॉडल चुनें मॉडल का चुनाव सभी कीमतें मध्यम
6. काम बैच करें या टालें शेड्यूलिंग प्रति टोकन कीमत, जहाँ उपलब्ध हो मध्यम
7. जवाब कैश करें ऐप का कोड पूरे अनुरोध मध्यम
8. रीट्राई और लूप सीमित करें ऐप का कोड बेकार अनुरोध कम
9. ख़र्च की सीमा तय करें अकाउंट और key बेक़ाबू बिल कम
10. फ़्लैट रेट का ब्रेक-ईवन जाँचें बिलिंग मॉडल ज़्यादा वॉल्यूम पर कुल बिल कम

1. कुछ भी घटाने से पहले मापना क्यों ज़रूरी है?

क्योंकि बिल वजह छिपा लेता है। एक जैसे दिखने वाले दो अनुरोधों के टोकन में दस गुना फ़र्क़ हो सकता है। हर chat completion एक usage ब्लॉक लौटाता है, जिसमें prompt_tokens, completion_tokens और, जहाँ प्रोवाइडर बताता है, कैश्ड टोकन होते हैं। इन्हें हर फ़ीचर और हर यूज़र के हिसाब से लॉग करें, प्रॉम्प्ट का टेक्स्ट छोड़कर। एक हफ़्ते बाद आपको पता होगा कि कौन-सा फ़ीचर सबसे ज़्यादा ख़र्च करता है, और ख़र्च इनपुट से है, कैश मिस से या आउटपुट से।

PII हटाकर उपयोग की लॉगिंग में एक लॉग स्कीमा दिया गया है। किसी फ़ीचर के लॉन्च से पहले उसका आकार आँकने के लिए LLM API कॉस्ट कैलकुलेटर या लॉन्च से पहले लागत का अनुमान वाला तरीक़ा इस्तेमाल करें।

2. प्रॉम्प्ट कैशिंग से लागत कैसे घटती है?

प्रोवाइडर प्रॉम्प्ट के उस शुरुआती हिस्से को कैश कर लेते हैं जो बिल्कुल वैसा ही दोहराया जाता है। अगली कॉल वह प्रीफ़िक्स कैश्ड कीमत पर पढ़ती है। OpenAI समर्थित मॉडल पर 1,024 टोकन से कैशिंग डिफ़ॉल्ट रूप से चालू रखता है, और कहता है कि कैश्ड इनपुट “discounted up to 95%” है (अनुवाद: 95% तक छूट पर) (2026-11-15 को देखा गया)। BroadNet पर DeepSeek V4.1 Flash कैश्ड इनपुट $0.0055 प्रति 1M पर बिल करता है, जबकि नया इनपुट $0.175 पर।

नियम: स्थिर सामग्री पहले, बदलने वाली सामग्री आख़िर में। पहले सिस्टम प्रॉम्प्ट, फिर टूल स्कीमा, फिर साझा डॉक्यूमेंट, फिर इतिहास, और फिर नया सवाल। सबसे ऊपर रखा एक टाइमस्टैम्प या फेरबदल की गई टूल सूची उसके बाद की हर चीज़ का कैश तोड़ देती है।

3. प्रॉम्प्ट में कौन-सी कटौती सुरक्षित है?

वह हटाएँ जिसका मॉडल इस्तेमाल नहीं करता। आम फ़ायदे यहाँ मिलते हैं: गद्य में लिखे लंबे सिस्टम प्रॉम्प्ट, काम की ज़रूरत से ज़्यादा few-shot उदाहरण, उन टूल के स्कीमा जिन्हें वह कदम कभी कॉल नहीं करता, लंबा-चौड़ा JSON जहाँ एक छोटी टेबल काफ़ी होती, और पूरा चैट इतिहास जहाँ सारांश काफ़ी होता। रिट्रीवल भी भटकता है: जब दो चंक से सवाल का जवाब मिल जाता हो, तब दस चंक भेजना लागत और क्वालिटी दोनों की समस्या है।

हर कटौती को इनपुट के एक तय सेट पर टेस्ट करें, ताकि सस्ता प्रॉम्प्ट चुपचाप जवाब न बिगाड़ दे। प्रॉम्प्ट टोकन कम करें में इनमें से हर कटौती का माप दिया गया है। भाषा से भी फ़र्क़ पड़ता है: ज़्यादातर टोकनाइज़र पर अरबी टेक्स्ट अंग्रेज़ी से ज़्यादा टोकन प्रति शब्द लेता है; देखें अरबी बनाम अंग्रेज़ी में प्रति शब्द टोकन।

4. आउटपुट और रीज़निंग को कैसे सीमित करें?

कम माँगें, और उसकी सीमा तय करें। गद्य की जगह JSON फ़ील्ड माँगें, “समझाइए” की जगह शब्द-सीमा दें, और सवाल दोहराने से मना करें। फिर max_tokens सेट करें ताकि बेक़ाबू जवाब रुक जाए।

थिंकिंग मॉडल पर ध्यान देना पड़ता है। BroadNet का डॉक्यूमेंटेशन कहता है कि रीज़निंग max_tokens में गिनी जाती है, इसलिए कम सीमा पर जवाब ख़ाली आ सकता है। 1,000 या उससे ज़्यादा टोकन रखें, और आसान कदमों पर reasoning_effort को low रखें। प्रति टोकन वाली key पर रीज़निंग आउटपुट के रूप में बिल होती है। रीज़निंग टोकन: जितना दिखता है उससे ज़्यादा भुगतान क्यों और ख़ाली जवाब का समाधान दोनों पहलू समझाते हैं।

5. क्वालिटी खोए बिना सस्ता मॉडल कैसे चुनें?

प्रति टोकन कीमत नहीं, हर सफल काम की लागत की तुलना करें। अपेक्षित आउटपुट के साथ 50 से 100 असली इनपुट तैयार करें, हर उम्मीदवार मॉडल चलाएँ, और ख़र्च को पास हुए मामलों से भाग दें। जो मॉडल प्रति टोकन सस्ता है लेकिन एक-तिहाई बार फ़ेल होता है, वह रीट्राई और इंसानी समीक्षा जोड़ने पर ज़्यादा महँगा पड़ सकता है।

पहले फ़ीचर जाँचें। BroadNet पर टूल और स्ट्रक्चर्ड आउटपुट सिर्फ़ GLM 5.3 और Qwen3.8 27B के लिए डॉक्यूमेंट किए गए हैं। Gemma 4 VL 26B, BroadNet का छोटा टेक्स्ट-और-इमेज मॉडल है; आसान कामों के लिए ऊपर की टेबल में उसकी कीमत देखें। कई ऐप आसान कदमों के लिए छोटा मॉडल और मुश्किल कदमों के लिए बड़ा मॉडल इस्तेमाल करते हैं; मॉडल आप अपने कोड में चुनते हैं। बदलने से पहले LLM का मूल्यांकन कैसे करें में एक टेस्ट प्लान दिया गया है।

अपने मौजूदा मॉडल के सस्ते होने का इंतज़ार न करें। प्रोवाइडर किसी मौजूदा मॉडल की कीमत शायद ही घटाते हैं; बचत आम तौर पर नए वर्ज़न के साथ आती है। देखें OpenAI बनाम Anthropic बनाम Google API कीमतों का इतिहास और LLM API कीमतों में सबसे बड़ी कटौतियाँ।

6. क्या रुक सकने वाले काम को बैच किया या टाला जा सकता है?

जहाँ प्रोवाइडर यह सुविधा देता है, हाँ, और छूट बड़ी है। सभी 2026-11-15 को देखे गए:

प्रोवाइडर छूट शर्त
OpenAI Batch API सिंक्रोनस कॉल के मुक़ाबले 50% 24 घंटे के अंदर पूरा होता है; रेट लिमिट अलग
Anthropic Message Batches API 50% एसिंक्रोनस; ज़्यादातर बैच एक घंटे से कम में पूरे
DeepSeek API, ऑफ़-पीक ऑफ़-पीक दरें पीक की आधी पीक सोमवार से शुक्रवार, 01:00 से 04:00 और 06:00 से 10:00 UTC

BroadNet Inference के पास न Batch API है, न ऑफ़-पीक कीमतें। BroadNet पर रात भर चलने वाले जॉब को सामान्य एंडपॉइंट पर, अपनी key की सीमाओं के अंदर, फिर से शुरू हो सकने वाले रनर से चलाएँ। Batch API के बिना LLM बैच प्रोसेसिंग में कोड दिया गया है। अगर जॉब घंटों चलता है, तो फ़्लैट सेशन टोकन से सस्ता पड़ सकता है (कदम 10)।

7. पूरे जवाब कब कैश करने चाहिए?

जब वही सवाल उन्हीं इनपुट के साथ फिर आए। FAQ बॉट, दोहराए गए आइटम का वर्गीकरण और क्रैश के बाद पाइपलाइन को दोबारा चलाना, ये सब काम दोहराते हैं। मॉडल, प्रॉम्प्ट और सेटिंग पर आधारित exact-match कैश सहेजा हुआ जवाब लौटा देता है और कॉल बच जाती है। एक्सपायरी तय करें ताकि जवाब पुराने न पड़ें। Python में LLM रिस्पॉन्स कैश करें में एक छोटा इम्प्लीमेंटेशन है।

8. रीट्राई और लूप पैसे कैसे बर्बाद करते हैं?

रीट्राई किया गया अनुरोध एक नया इन्फ़रेंस है और प्रति टोकन वाली key पर फिर से बिल होता है। सिर्फ़ 429 और 5xx एरर पर, exponential backoff और jitter के साथ रीट्राई करें, और कोशिशें सीमित रखें। 400 को कभी रीट्राई न करें: वही ग़लत अनुरोध उसी तरह फ़ेल होगा।

एजेंट एक दूसरा जोखिम जोड़ते हैं: ऐसा लूप जो मॉडल को बार-बार कॉल करता रहे। हर काम के कदम सीमित करें, और जब वही टूल कॉल दोहराई जाए तो रुक जाएँ। 429 एरर को सँभालना और कोडिंग एजेंट की लागत घटाने के 10 तरीक़े दोनों बातें समझाते हैं।

9. बिल को बेक़ाबू होने से कैसे रोकें?

अलर्ट बाद में बताते हैं। सीमाएँ उसे रोकती हैं। प्रीपेड बैलेंस इस्तेमाल करें, हर ऐप के लिए एक key रखें ताकि बाक़ी को रोके बिना एक को रद्द कर सकें, और सर्वर key पर IP allow-list लगाएँ। कोड में हर जॉब का बजट तय करें और ख़त्म होने पर रुक जाएँ। LLM API ख़र्च नियंत्रण में अकाउंट से लेकर अनुरोध तक, सभी परतें बताई गई हैं।

10. फ़्लैट रेट प्लान प्रति टोकन कीमत से कब बेहतर होता है?

जब कोई एजेंट दिन के ज़्यादातर समय चलता है। BroadNet, DeepSeek V4.1 Flash को प्रति टोकन या प्रति सेशन बेचता है: Full Moon $60 प्रति माह, Orbit $15 प्रति सप्ताह या Meteor $1 प्रति घंटा, बिना किसी टोकन मीटर के। एक सेशन एक समय में एक अनुरोध चलाता है।

प्रति टोकन बिलिंग पर BroadNet के उदाहरण:

वर्कलोड प्रति टोकन, प्रति माह सस्ता विकल्प
साइड प्रोजेक्ट $14.23 उपयोग के अनुसार भुगतान
रोज़ाना का असिस्टेंट $42.67 उपयोग के अनुसार भुगतान
फ़ुल-टाइम कोडिंग एजेंट $65.40 Full Moon
हमेशा चालू एजेंट $196.20 Full Moon

80% कैश हिट और हर आउटपुट टोकन पर 20 इनपुट टोकन मानें, तो ब्रेक-ईवन लगभग 917 मिलियन इनपुट और 46 मिलियन आउटपुट टोकन प्रति माह पर आता है। हल्के उपयोग में प्रति टोकन ही सस्ता रहता है। ब्रेक-ईवन का पूरा हिसाब देखें, या अपना वॉल्यूम फ़्लैट रेट बनाम प्रति टोकन कैलकुलेटर में आज़माएँ।

कौन-से कदम छोड़ देने चाहिए?

कुछ लोकप्रिय सलाह जितना बचाती है, उससे ज़्यादा ख़र्च कराती है:

  • प्रॉम्प्ट को इतना दबाना कि वह टूट जाए। अगर जवाबों की क्वालिटी गिरती है और यूज़र दोबारा कोशिश करते हैं, तो इनपुट की बचत चली जाती है।
  • हर टर्न पर इतिहास का सारांश बनाना। हर सारांश एक अतिरिक्त कॉल है, और वह प्रीफ़िक्स बदल देता है, इसलिए कैश मिस होता है। कभी-कभार सारांश बनाएँ और बाक़ी को आगे जोड़ते जाएँ।
  • सिर्फ़ सबसे कम प्रति टोकन कीमत के पीछे भागना। रेट लिमिट, ग़ायब फ़ीचर और फ़ेल होने की दर, सब लागत बढ़ाते हैं।
  • छोटे वर्कलोड के लिए सेल्फ़-होस्टिंग। GPU का बिल घंटे के हिसाब से बनता है, चाहे वे व्यस्त हों या ख़ाली। सेल्फ़-होस्टिंग बनाम API की लागत बताता है कि ब्रेक-ईवन कहाँ है।

BroadNet Inference कहाँ फ़िट होता है

BroadRouter, BroadNet की अपनी वेबसाइट है, इसलिए इस हिस्से को इसी बात को ध्यान में रखकर पढ़ें। BroadNet Inference एक OpenAI-कम्पैटिबल API है, जिसमें प्रति टोकन कीमत वाले चार चैट मॉडल हैं, उनमें से तीन पर कैश्ड इनपुट है, और लगातार एजेंट उपयोग के लिए DeepSeek V4.1 Flash का एक फ़्लैट प्लान है। यह Batch API या ऑफ़-पीक दरें नहीं देता, इसलिए रुक सकने वाले बड़े जॉब के लिए OpenAI या Anthropic की बैच छूट, या DeepSeek के ऑफ़-पीक घंटे, सस्ते पड़ सकते हैं। नए अकाउंट को $5 का शुरुआती क्रेडिट मिलता है, जो Gemma 4 VL 26B, दोनों Transcribe मॉडल और Gemma की घंटे वाली key को कवर करता है; DeepSeek, GLM और Qwen के लिए टॉप-अप ज़रूरी है। सेल्फ़-सर्व में कोई SLA नहीं है। कीमतें देखें या प्लान की तुलना करें।

अक्सर पूछे जाने वाले सवाल

LLM API की लागत घटाने का सबसे तेज़ तरीक़ा क्या है?

प्रॉम्प्ट कैशिंग से शुरू करें। सिस्टम प्रॉम्प्ट, टूल स्कीमा और साझा डॉक्यूमेंट सबसे पहले रखें और हर कॉल में उन्हें बाइट-दर-बाइट एक जैसा रखें। कैश्ड इनपुट नए इनपुट की कीमत के एक छोटे हिस्से पर बिल होता है, और आपको न मॉडल बदलना पड़ता है न कोई फ़ीचर। इसके बाद आउटपुट सीमित करें, क्योंकि आउटपुट टोकन इनपुट टोकन से महँगे होते हैं।

क्या Batch API से सच में कीमत आधी हो जाती है?

OpenAI और Anthropic पर, हाँ। OpenAI का Batch API 24 घंटे की पूरी होने की अवधि के साथ 50% छूट देता है, और Anthropic का Message Batches API लागत 50 प्रतिशत घटाता है (दोनों 2026-11-15 को देखे गए)। BroadNet Inference के पास Batch API नहीं है, इसलिए वहाँ जॉब सामान्य एंडपॉइंट पर फिर से शुरू हो सकने वाले रनर से चलाएँ।

क्या रीज़निंग टोकन भी मेरे बिल में जुड़ते हैं?

हाँ, प्रति टोकन वाली key पर। रीज़निंग completion टोकन में रिपोर्ट होती है और आउटपुट की कीमत पर बिल होती है। आसान कदमों के लिए reasoning_effort को low रखें, लेकिन max_tokens 1,000 या उससे ज़्यादा रखें ताकि जवाब बीच में न कटे।

क्या छोटा मॉडल हमेशा सस्ता पड़ता है?

प्रति टोकन, आम तौर पर हाँ। प्रति काम, हमेशा नहीं। जिस छोटे मॉडल को दो रीट्राई या लंबा प्रॉम्प्ट चाहिए, वह उस बड़े मॉडल से महँगा पड़ सकता है जो पहली बार में सही जवाब दे। अपने टेस्ट सेट पर हर सफल काम की लागत की तुलना करें।

फ़्लैट रेट प्लान प्रति टोकन भुगतान से कब सस्ता होता है?

जब उपयोग ज़्यादा और लगातार हो। BroadNet पर DeepSeek V4.1 Flash का एक Full Moon सेशन $60 प्रति माह है। 80% कैश हिट पर, ब्रेक-ईवन लगभग 917 मिलियन इनपुट और 46 मिलियन आउटपुट टोकन प्रति माह पर आता है। इससे कम उपयोग पर प्रति टोकन सस्ता है।

क्या रीट्राई का भी पैसा लगता है?

हाँ। रीट्राई किया गया अनुरोध एक नया इन्फ़रेंस है और प्रति टोकन वाली key पर फिर से बिल होता है। सिर्फ़ 429 और 5xx एरर पर, बैकऑफ़ के साथ रीट्राई करें, और कोशिशों की संख्या सीमित रखें।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें