BroadRouter
شروع کریں

BroadNet Inference کے ایرر کوڈز اور دوبارہ کوشش کب کریں

اپ ڈیٹ

باڈی پارس کرنے سے پہلے HTTP اسٹیٹس دیکھیں۔ 429 اور 5xx پر محدود exponential backoff کے ساتھ دوبارہ کوشش کریں۔ 400، 403، 413 اور 422 کو دوبارہ کوشش سے پہلے ٹھیک کریں۔ 401 پر کلید اور بیلنس جانچیں، اور 402 پر اکاؤنٹ میں رقم ڈالیں۔ سپورٹ کے لیے X-Request-ID ہیڈر ہمیشہ لاگ کریں۔

API ایک عام HTTP اسٹیٹس اور مشین سے پڑھا جانے والا ایرر کوڈ لوٹاتا ہے۔ اگلا قدم اسٹیٹس دیکھ کر طے کریں۔ یہ ٹیبل BroadNet کے API ریفرنس پر مبنی ہے۔

اسٹیٹس مطلب کیا کریں
400 / 422 غلط درخواست یا فیلڈ پہلے درخواست ٹھیک کریں
401 کلید موجود نہیں، غلط ہے یا میعاد ختم ہے، استعمال کے مطابق ادائیگی والا بجٹ بلاک ہے، یا حد ختم ہو گئی ہے کلید کا اسٹیٹس اور اکاؤنٹ بیلنس جانچیں
402 insufficient_balance اکاؤنٹ کسی خریداری کا خرچ پورا نہیں کر سکتا؛ باڈی میں بیلنس اور قیمت ہوتی ہے اکاؤنٹ میں رقم ڈالیں، پھر دوبارہ کوشش کریں
403 ماڈل، روٹ یا IP پالیسی نے رد کیا مطابقت نہ رکھنے والی چیز ٹھیک کریں، مثلاً IP allow-list
409 اکاؤنٹ کی حالت سے ٹکراؤ: mint_in_progress، key_limit_reached، credential_limit_reached، key_pending صرف mint_in_progress پر، اسی request_id کے ساتھ، دوبارہ کوشش کریں
413 درخواست بہت بڑی ہے؛ ٹرانسکرپشن فائلوں کی حد 26,214,400 بائٹس ہے درخواست چھوٹی کریں
429 ریٹ، concurrency، ٹوکن ریٹ یا اخراجات کی حد پوری ہو گئی ریسپانس کی تفصیل پڑھیں، رکیں اور دوبارہ کوشش کریں
500 / 502 / 503 / 504 سرور کی طرف پروسیسنگ محدود exponential backoff کے ساتھ دوبارہ کوشش کریں؛ گھنٹے والی کلید کی خریداری میں وہی request_id دوبارہ استعمال کریں

BroadNet کی دستاویزات کہتی ہیں کہ JSON باڈی پارس کرنے سے پہلے HTTP اسٹیٹس جانچیں، پھر جہاں موجود ہو، مشین سے پڑھا جانے والا error کوڈ پڑھیں۔

429 کن حدوں سے آتا ہے؟

استعمال کے مطابق ادائیگی والی کلید فی منٹ 30 درخواستوں اور بیک وقت 4 جاری درخواستوں کی اجازت دیتی ہے۔ BroadNet کی دستاویزات کے مطابق گھنٹے والی کلید کو فی منٹ 120 درخواستیں، ایک اسٹریم اور فی منٹ 300,000 ٹوکن ملتے ہیں۔ لامحدود پلان پر ہر سیشن ایک وقت میں ایک ہی درخواست چلاتا ہے۔ یہ حدیں OpenAI، Anthropic، Groq اور DeepSeek کے مقابلے میں کیسی ہیں، یہ جاننے کے لیے فراہم کنندگان کے لحاظ سے LLM API ریٹ لمٹس پڑھیں۔

OpenAI SDK کے ساتھ دوبارہ کوشش کیسے کریں؟

GitHub پر اس کے README کے مطابق OpenAI Python SDK کنکشن ایررز، 408، 409، 429 اور 5xx ریسپانسز پر پہلے سے ہی بطور ڈیفالٹ دو بار، مختصر exponential backoff کے ساتھ، دوبارہ کوشش کرتا ہے۔ اس کا ڈیفالٹ ٹائم آؤٹ 10 منٹ ہے۔ دونوں کو واضح طور پر سیٹ کریں۔ نیچے کے کوڈ میں max_retries=0 خودکار دوبارہ کوشش بند کرتا ہے، اور timeout سیکنڈز میں ہے؛ لمبے ریزننگ جوابات کے لیے اسے بڑھائیں:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_retries=4,   # 0 turns automatic retries off
    timeout=120,     # seconds; raise it for long reasoning answers
)

اپنا بیک آف کیسے لکھیں؟

اگر آپ بغیر SDK کے API کال کرتے ہیں تو کوششوں کی تعداد اور انتظار، دونوں کو محدود رکھیں۔ دوبارہ کوشش والے سیٹ سے باہر کا کوئی بھی اسٹیٹس (کامیابی، یا ایسا ایرر جسے دوبارہ کوشش کے بجائے ٹھیک کرنا ہے) فوراً لوٹا دیا جاتا ہے:

import random, time, requests

RETRY = {429, 500, 502, 503, 504}

def post_with_backoff(url, headers, body, tries=5):
    for attempt in range(tries):
        r = requests.post(url, headers=headers, json=body, timeout=120)
        if r.status_code not in RETRY:
            return r                      # success, or an error to fix rather than retry
        time.sleep(min(30, 2 ** attempt) + random.random())
    return r

400، 403، 413 یا 422 پر بغیر تبدیلی کے کبھی دوبارہ کوشش نہ کریں: وہی درخواست اسی طرح ناکام ہو گی۔ چیٹ درخواست کی ہر دوبارہ کوشش ایک نیا انفرنس ہے، اور استعمال کے مطابق ادائیگی میں اس کا بل دوبارہ بنتا ہے۔ عمومی طریقے کے لیے exponential backoff دیکھیں۔

گھنٹے والی کلید کی خریداری میں محفوظ طریقے سے دوبارہ کوشش

POST /portal/keys/hourly ایک request_id لیتا ہے۔ ٹائم آؤٹ، ٹوٹے کنکشن، 409 mint_in_progress یا 5xx کے بعد اسی request_id کے ساتھ دوبارہ کوشش کریں۔ دوبارہ استعمال کیا گیا request_id کبھی دوسری کلید نہیں بناتا اور نہ دوسری بار رقم کاٹتا ہے؛ دہرائی گئی درخواست پر already_issued: true اور alias لوٹتا ہے۔ جب تک پہلے نتیجے کا علم نہ ہو، نیا id کبھی نہ بنائیں۔ مزید idempotency key پر۔

مسائل کا حل

  • ٹاپ اپ کے فوراً بعد 401۔ BroadNet کا اکاؤنٹ صفحہ آخری درج شدہ حد دکھاتا ہے، اور فنڈنگ کی تبدیلی لاگو ہونے تک اسے updating کے طور پر دکھاتا ہے۔ صفحہ ریفریش کریں اور تبدیلی مکمل ہونے پر دوبارہ کوشش کریں۔
  • فی منٹ چند ہی درخواستوں پر 429۔ آپ شاید 4 درخواستوں والی concurrency حد سے ٹکرا رہے ہیں، مثلاً متوازی چلتی لمبی اسٹریمز کی وجہ سے۔ چھوٹا ورکر پول استعمال کریں۔
  • ایک ماڈل پر 403، دوسرے پر نہیں۔ کلید کی پالیسی اس ماڈل یا روٹ کو کور نہیں کرتی۔ مثال کے طور پر پلان کی کلیدیں broadnet/deepseek-v4.1-flash کے لیے ہیں، اور گھنٹے والی کلید صرف broadnet/gemma-4-26b-a4b کو کور کرتی ہے۔
  • SDK نے دوبارہ کوشش کی اور بل دو بار بنا۔ دوبارہ بھیجی گئی چیٹ درخواست ایک نیا انفرنس ہے۔ جہاں دہرا جواب ناکام جواب سے زیادہ مہنگا پڑے، وہاں max_retries=0 سیٹ کریں۔

سپورٹ کو کیا بھیجیں

X-Request-ID ہیڈر کی قدر، UTC ٹائم اسٹیمپ، روٹ، HTTP اسٹیٹس اور اپنی کلید کا alias بھیجیں۔ کلید خود کبھی نہ بھیجیں۔ ہیڈر کیسے پڑھیں، یہ OpenAI Python SDK گائیڈ میں ہے۔

عام سوالات

کیا LLM API سے آنے والے 429 ایرر پر دوبارہ کوشش کرنی چاہیے؟

ہاں، محدود exponential backoff کے ساتھ۔ BroadNet Inference پر 429 کا مطلب ہے کہ ریٹ، concurrency، ٹوکن ریٹ یا اخراجات کی کوئی حد پوری ہو گئی۔ بار بار ہو تو متوازی درخواستیں کم کریں، اور اگر وجہ اخراجات کی حد ہو تو دوبارہ کوشش بند کر دیں۔

میری کلید درست ہے، پھر بھی 401 کیوں آ رہا ہے؟

BroadNet پر 401 صرف غلط یا میعاد ختم کلید کے لیے نہیں، بلکہ ختم ہو چکی استعمال کے مطابق ادائیگی والی حد یا بلاک بجٹ کے لیے بھی آتا ہے۔ اکاؤنٹ کے صفحے پر بیلنس اور کلید کا اسٹیٹس جانچیں۔

یہاں 401 اور 403 میں کیا فرق ہے؟

401 کا تعلق کلید یا اکاؤنٹ کی حد سے ہے۔ 403 کا مطلب ہے کہ کلید کام کر رہی ہے، لیکن ماڈل، روٹ یا IP پالیسی نے درخواست رد کر دی، مثلاً کسی ایسے پتے سے کال جو allow-list میں نہیں۔

کیا OpenAI SDK ایررز پر خود بخود دوبارہ کوشش کرتا ہے؟

ہاں۔ OpenAI Python SDK کنکشن ایررز، 408، 409، 429 اور 5xx پر بطور ڈیفالٹ دو بار، مختصر exponential backoff کے ساتھ، دوبارہ کوشش کرتا ہے۔ تعداد بدلنے کے لیے max_retries سیٹ کریں، یا دوبارہ کوشش بند کرنے کے لیے 0۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں