BroadRouter
Magsimula

Mga error code ng BroadNet Inference at kailan dapat mag-retry

Na-update

Suriin muna ang HTTP status bago i-parse ang body. I-retry ang 429 at 5xx gamit ang exponential backoff na may hangganan. Ayusin muna ang 400, 403, 413 at 422 bago mag-retry. Sa 401, suriin ang key at ang balance; sa 402, lagyan ng pondo ang account. Laging i-log ang X-Request-ID header para sa support.

Nagbabalik ang API ng normal na HTTP status at ng machine-readable na error code. Ang status ang batayan ng susunod mong hakbang. Sinusundan ng table na ito ang API reference ng BroadNet.

Status Ibig sabihin Gagawin
400 / 422 Invalid ang request o ang isang field Ayusin muna ang request
401 Wala, invalid o expired ang key, naka-block ang pay-as-you-go budget, o ubos na ang allowance Suriin ang status ng key at ang balance ng account
402 insufficient_balance Hindi kayang bayaran ng account ang isang purchase; kasama sa body ang balance at presyo Lagyan ng pondo ang account, saka subukan ulit
403 Tinanggihan ng model, route o IP policy Ayusin ang hindi pagtutugma, halimbawa ang IP allow-list
409 Salungat sa estado ng account: mint_in_progress, key_limit_reached, credential_limit_reached, key_pending mint_in_progress lang ang i-retry, gamit ang parehong request_id
413 Masyadong malaki ang request; hanggang 26,214,400 bytes lang ang transcription file Paliitin ang request
429 Naabot ang rate, concurrency, token-rate o spending limit Basahin ang detalye ng response, maghintay at mag-retry
500 / 502 / 503 / 504 Processing sa server Mag-retry gamit ang exponential backoff na may hangganan; gamitin ulit ang parehong request_id sa pagbili ng hourly key

Ayon sa docs ng BroadNet, suriin muna ang HTTP status bago i-parse ang JSON body, saka basahin ang machine-readable na error code kung mayroon.

Anong mga limit ang nagdudulot ng 429?

Ang isang pay-as-you-go key ay may 30 request kada minuto at 4 na sabay-sabay na request. Ayon sa docs ng BroadNet, ang hourly key ay may 120 request kada minuto, isang stream at 300,000 token kada minuto. Sa isang unlimited plan, isang request sa bawat pagkakataon ang tinatakbo ng bawat session. Para makita kung paano ito ikinukumpara sa OpenAI, Anthropic, Groq at DeepSeek, basahin ang rate limits ng LLM API ayon sa provider.

Paano mag-retry gamit ang OpenAI SDK?

Ayon sa README nito sa GitHub, awtomatiko nang nire-retry ng OpenAI Python SDK ang connection errors at ang mga response na 408, 409, 429 at 5xx nang dalawang beses bilang default, na may maikling exponential backoff. 10 minuto ang default na timeout nito. I-set nang tahasan ang dalawa. Sa code sa ibaba, 0 sa max_retries ang nag-o-off ng awtomatikong retry, at nasa segundo ang timeout; taasan ito para sa mahahabang reasoning na sagot:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_retries=4,   # 0 turns automatic retries off
    timeout=120,     # seconds; raise it for long reasoning answers
)

Paano ako gagawa ng sarili kong backoff?

Kung tinatawag mo ang API nang walang SDK, lagyan ng hangganan ang bilang ng pagsubok at ang tagal ng paghihintay. Sa function sa ibaba, ibinabalik agad ang response kapag hindi ito retryable na status, dahil tagumpay iyon o error na dapat ayusin sa halip na i-retry:

import random, time, requests

RETRY = {429, 500, 502, 503, 504}

def post_with_backoff(url, headers, body, tries=5):
    for attempt in range(tries):
        r = requests.post(url, headers=headers, json=body, timeout=120)
        if r.status_code not in RETRY:
            return r                      # success, or an error to fix rather than retry
        time.sleep(min(30, 2 ** attempt) + random.random())
    return r

Huwag kailanman i-retry nang walang binabago ang 400, 403, 413 o 422: babagsak sa parehong paraan ang parehong request. Bagong inference ang bawat retry ng chat request, at sinisingil ulit ito sa pay-as-you-go. Tingnan ang exponential backoff para sa pangkalahatang pattern.

Ligtas na pag-retry ng pagbili ng hourly key

Tumatanggap ng request_id ang POST /portal/keys/hourly. Pagkatapos ng timeout, naputol na connection, 409 mint_in_progress o 5xx, mag-retry gamit ang parehong request_id. Hindi kailanman gumagawa o naniningil ng pangalawang key ang inulit na request_id; ibinabalik ng replay ang already_issued: true at ang alias. Huwag gumawa ng bagong id hangga’t hindi mo alam ang resulta ng una. Higit pa tungkol sa idempotency keys.

Troubleshooting

  • 401 pagkatapos mismo ng top-up. Ipinapakita ng account page ng BroadNet ang huling naitalang allowance, at minamarkahan nitong nag-a-update ang pagbabago sa pondo habang inilalapat ito. I-refresh ang page at subukan ulit kapag tapos na ito.
  • 429 kahit kaunting request lang kada minuto. Malamang naaabot mo ang concurrency limit na 4 request, halimbawa dahil sa mahahabang stream na sabay-sabay na tumatakbo. Gumamit ng maliit na worker pool.
  • 403 sa isang model pero hindi sa iba. Hindi sakop ng policy ng key ang model o route na iyon. Halimbawa, para sa broadnet/deepseek-v4.1-flash ang mga plan key, at broadnet/gemma-4-26b-a4b lang ang sakop ng hourly key.
  • Nag-retry ang SDK at dalawang beses kang siningil. Bagong inference ang ni-retry na chat request. I-set ang max_retries=0 kung saan mas mahal ang dobleng sagot kaysa sa isang pumalyang request.

Ano ang ipapadala sa support

Isama ang value ng X-Request-ID header, ang UTC timestamp, ang route, ang HTTP status at ang alias ng key mo. Huwag kailanman ipadala ang mismong key. Ipinapakita ng gabay sa OpenAI Python SDK kung paano basahin ang header.

Mga tanong

Dapat ko bang i-retry ang 429 error mula sa LLM API?

Oo, gamit ang exponential backoff na may hangganan. Sa BroadNet Inference, ang 429 ay nangangahulugang naabot ang rate, concurrency, token-rate o spending limit. Bawasan ang parallelism kung paulit-ulit ito, at itigil ang pag-retry kapag spending limit ang dahilan.

Bakit ako nakakakuha ng 401 kahit tama ang key ko?

Sa BroadNet, sakop din ng 401 ang naubos na pay-as-you-go allowance o naka-block na budget, hindi lang ang mali o expired na key. Suriin ang balance ng account at ang status ng key sa account page.

Ano ang pagkakaiba ng 401 at 403 dito?

Tungkol sa key o sa allowance ng account ang 401. Ang 403 naman ay nangangahulugang gumagana ang key pero tinanggihan ang request ng model, route o IP policy, halimbawa ang call mula sa address na wala sa allow-list.

Awtomatiko bang nire-retry ng OpenAI SDK ang mga error?

Oo. Bilang default, dalawang beses nire-retry ng OpenAI Python SDK ang connection errors, 408, 409, 429 at 5xx, na may maikling exponential backoff. I-set ang max_retries para baguhin ang bilang, o 0 para i-off ang retries.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity