BroadRouter
शुरू करें

BroadNet Inference के एरर कोड और रीट्राई कब करें

अपडेट किया गया

बॉडी पार्स करने से पहले HTTP स्टेटस देखें। 429 और 5xx को सीमित exponential backoff के साथ रीट्राई करें। 400, 403, 413 और 422 को रीट्राई से पहले ठीक करें। 401 पर key और बैलेंस जाँचें, और 402 पर अकाउंट में पैसे डालें। सपोर्ट के लिए X-Request-ID हेडर हमेशा लॉग करें।

API एक सामान्य HTTP स्टेटस और मशीन से पढ़ा जा सकने वाला एरर कोड लौटाता है। अगला क़दम स्टेटस देखकर तय करें। यह टेबल BroadNet के API रेफ़रंस पर आधारित है।

स्टेटस मतलब क्या करें
400 / 422 अमान्य अनुरोध या फ़ील्ड पहले अनुरोध ठीक करें
401 key नहीं है, अमान्य है या एक्सपायर है, उपयोग के अनुसार भुगतान वाला बजट ब्लॉक है, या सीमा ख़त्म हो गई है key का स्टेटस और अकाउंट बैलेंस जाँचें
402 insufficient_balance अकाउंट किसी ख़रीद का ख़र्च नहीं उठा सकता; बॉडी में बैलेंस और कीमत होती है अकाउंट में पैसे डालें, फिर दोबारा कोशिश करें
403 मॉडल, रूट या IP पॉलिसी ने ठुकराया मेल न खाने वाली चीज़ ठीक करें, जैसे IP allow-list
409 अकाउंट की स्थिति से टकराव: mint_in_progress, key_limit_reached, credential_limit_reached, key_pending सिर्फ़ mint_in_progress को, उसी request_id के साथ, रीट्राई करें
413 अनुरोध बहुत बड़ा है; ट्रांसक्रिप्शन फ़ाइलों की सीमा 26,214,400 बाइट है अनुरोध छोटा करें
429 रेट, concurrency, टोकन-रेट या ख़र्च की लिमिट पूरी हो गई रिस्पॉन्स का विवरण पढ़ें, रुकें और रीट्राई करें
500 / 502 / 503 / 504 सर्वर की तरफ़ की प्रोसेसिंग सीमित exponential backoff के साथ रीट्राई करें; hourly key की ख़रीद में वही request_id दोबारा इस्तेमाल करें

BroadNet के डॉक्स कहते हैं कि JSON बॉडी पार्स करने से पहले HTTP स्टेटस जाँचें, फिर जहाँ मौजूद हो, मशीन से पढ़ा जा सकने वाला error कोड पढ़ें।

429 किन लिमिट से आता है?

उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 चालू अनुरोधों की अनुमति देती है। BroadNet के डॉक्स के अनुसार hourly key को प्रति मिनट 120 अनुरोध, एक स्ट्रीम और प्रति मिनट 300,000 टोकन मिलते हैं। अनलिमिटेड प्लान पर हर सेशन एक समय में एक ही अनुरोध चलाता है। ये लिमिट OpenAI, Anthropic, Groq और DeepSeek से कैसे तुलना करती हैं, यह जानने के लिए प्रोवाइडर के हिसाब से LLM API रेट लिमिट पढ़ें।

OpenAI SDK के साथ रीट्राई कैसे करें?

GitHub पर उसके README के अनुसार OpenAI Python SDK कनेक्शन एरर, 408, 409, 429 और 5xx रिस्पॉन्स को पहले से ही डिफ़ॉल्ट रूप से दो बार, छोटे exponential backoff के साथ रीट्राई करता है। इसका डिफ़ॉल्ट टाइमआउट 10 मिनट है। दोनों को साफ़-साफ़ सेट करें। नीचे के कोड में max_retries=0 रीट्राई बंद करता है, और timeout सेकंड में है; लंबे रीज़निंग जवाबों के लिए इसे बढ़ाएँ:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_retries=4,   # 0 turns automatic retries off
    timeout=120,     # seconds; raise it for long reasoning answers
)

अपना बैकऑफ़ कैसे लिखें?

अगर आप बिना SDK के API कॉल करते हैं, तो कोशिशों की संख्या और इंतज़ार, दोनों पर सीमा लगाएँ। रीट्राई सेट से बाहर का कोई भी स्टेटस (सफलता, या ऐसा एरर जिसे रीट्राई नहीं, ठीक करना है) तुरंत लौटा दिया जाता है:

import random, time, requests

RETRY = {429, 500, 502, 503, 504}

def post_with_backoff(url, headers, body, tries=5):
    for attempt in range(tries):
        r = requests.post(url, headers=headers, json=body, timeout=120)
        if r.status_code not in RETRY:
            return r                      # success, or an error to fix rather than retry
        time.sleep(min(30, 2 ** attempt) + random.random())
    return r

400, 403, 413 या 422 को बिना बदले कभी रीट्राई न करें: वही अनुरोध उसी तरह फ़ेल होगा। चैट अनुरोध का हर रीट्राई एक नया इन्फ़रेंस है, और उपयोग के अनुसार भुगतान में उसका बिल फिर से बनता है। आम पैटर्न के लिए exponential backoff देखें।

hourly key की ख़रीद को सुरक्षित तरीक़े से रीट्राई करना

POST /portal/keys/hourly एक request_id लेता है। टाइमआउट, टूटे कनेक्शन, 409 mint_in_progress या 5xx के बाद उसी request_id के साथ रीट्राई करें। दोबारा इस्तेमाल किया गया request_id कभी दूसरी key नहीं बनाता और न दूसरी बार पैसे काटता है; दोहराए गए अनुरोध पर already_issued: true और alias लौटता है। जब तक पहले नतीजे का पता न हो, नया id कभी न बनाएँ। ज़्यादा जानकारी idempotency key पर।

समस्या निवारण

  • टॉप-अप के तुरंत बाद 401. BroadNet का अकाउंट पेज आख़िरी दर्ज सीमा दिखाता है, और फ़ंडिंग में बदलाव लागू होने तक उसे updating के रूप में दिखाता है। पेज रीफ़्रेश करें और बदलाव पूरा होने पर दोबारा कोशिश करें।
  • प्रति मिनट कुछ ही अनुरोधों पर 429. आप शायद 4 अनुरोधों वाली concurrency लिमिट से टकरा रहे हैं, जैसे पैरेलल में चलती लंबी स्ट्रीम के कारण। छोटा वर्कर पूल इस्तेमाल करें।
  • एक मॉडल पर 403, दूसरे पर नहीं. key की पॉलिसी उस मॉडल या रूट को कवर नहीं करती। उदाहरण के लिए, प्लान की key broadnet/deepseek-v4.1-flash के लिए हैं, और hourly key सिर्फ़ broadnet/gemma-4-26b-a4b को कवर करती है।
  • SDK ने रीट्राई किया और बिल दो बार बना. रीट्राई किया गया चैट अनुरोध एक नया इन्फ़रेंस है। जहाँ डुप्लिकेट जवाब की कीमत फ़ेल हुए जवाब से ज़्यादा हो, वहाँ max_retries=0 सेट करें।

सपोर्ट को क्या भेजें

X-Request-ID हेडर की वैल्यू, UTC टाइमस्टैम्प, रूट, HTTP स्टेटस और अपनी key का alias भेजें। key ख़ुद कभी न भेजें। हेडर कैसे पढ़ें, यह OpenAI Python SDK गाइड में है।

अक्सर पूछे जाने वाले सवाल

क्या LLM API से आए 429 एरर को रीट्राई करना चाहिए?

हाँ, सीमित exponential backoff के साथ। BroadNet Inference पर 429 का मतलब है कि रेट, concurrency, टोकन-रेट या ख़र्च की कोई लिमिट पूरी हो गई। बार-बार हो तो पैरेलल अनुरोध कम करें, और अगर वजह ख़र्च की लिमिट है तो रीट्राई बंद कर दें।

मेरी key सही है, फिर भी 401 क्यों आ रहा है?

BroadNet पर 401 सिर्फ़ ग़लत या एक्सपायर key के लिए नहीं, बल्कि ख़त्म हो चुकी उपयोग के अनुसार भुगतान वाली सीमा या ब्लॉक बजट के लिए भी आता है। अकाउंट पेज पर बैलेंस और key का स्टेटस जाँचें।

यहाँ 401 और 403 में क्या फ़र्क़ है?

401 का संबंध key या अकाउंट की सीमा से है। 403 का मतलब है कि key चल रही है, लेकिन मॉडल, रूट या IP पॉलिसी ने अनुरोध ठुकरा दिया, जैसे किसी ऐसे पते से कॉल जो allow-list में नहीं है।

क्या OpenAI SDK एरर को अपने-आप रीट्राई करता है?

हाँ। OpenAI Python SDK कनेक्शन एरर, 408, 409, 429 और 5xx को डिफ़ॉल्ट रूप से दो बार, छोटे exponential backoff के साथ रीट्राई करता है। गिनती बदलने के लिए max_retries सेट करें, या रीट्राई बंद करने के लिए 0।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें