BroadRouter
Magsimula

Para sa developers

Na-update

Ginagamit ng BroadNet Inference ang request format ng OpenAI sa https://inference.broadnet.ai/v1. Gumawa ng key sa console, itago ito sa environment variable, at magpadala ng request sa /chat/completions o /audio/transcriptions gamit ang eksaktong model ID. Bago ilipat ang production traffic, suriin ang parameters, streaming, tools, limits at errors ng model na iyon.

Paano ko ipapadala ang una kong chat request?

  1. Mag-sign in sa inference.broadnet.ai (Ingles) at gumawa ng inference key. Isang beses lang itong ipinapakita; hash lang nito ang itinatago ng console.
  2. I-install ang OpenAI SDK at i-set ang key sa shell mo. Itago ang mga key sa server mo, hindi kailanman sa browser code.
  3. Ipadala ang request. Basahin ang sagot sa choices[0].message.content.

setup

python -m pip install openai
export BROADNET_API_KEY='paste-the-key-once'

first_request.py

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
response = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Reply with one short sentence."}],
)
print(response.choices[0].message.content)

Gumagamit ang example ng BroadNet Gemma 4 VL 26B, na sakop ng US$5 na panimulang credit. Kailangan munang mag-top up para sa DeepSeek V4.1 Flash, GLM 5.3, at Qwen3.8 27B. Itago ang response header na X-Request-ID para sa support.

How a request reaches a model
  1. 01Your appKey kept in an environment variable
  2. 02OpenAI SDKTwo settings change

    base_url api_key

  3. 03BroadNet InferenceOpenAI-compatible APIinference.broadnet.ai/v1POST /chat/completions
  4. 04The model you nameSet in every request
    • broadnet/deepseek-v4.1-flash
    • broadnet/glm-5.3
    • broadnet/qwen3.8-27b
    • broadnet/gemma-4-26b-a4byour choice
  5. 05ResponseFrom that model

You choose the model in each request. There is no automatic routing: the request runs on the model ID you sent.

Your app calls the OpenAI SDK with BroadNet’s base URL and your key. The request goes to BroadNet Inference with the model ID you wrote, and that model answers. Nothing picks or switches the model for you.

Streaming

I-set ang stream=true at basahin ang Server-Sent Events hanggang data: [DONE]. Kapag may stream_options.include_usage, darating ang token usage sa huling chunk. Kung natapos ang stream bago ang [DONE], ituring na hindi kumpleto ang sagot. Hinihiling ng BroadNet na i-verify ang streaming sa bawat model bago ito asahan sa production.

stream.sh

curl -N https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"broadnet/gemma-4-26b-a4b","stream":true,"stream_options":{"include_usage":true},"messages":[{"role":"user","content":"Count from one to three."}]}'

Paano ako magta-transcribe ng audio?

Magpadala ng WAV o MP3, hanggang 26,214,400 bytes kada file, sa /audio/transcriptions. Laging i-set ang language: kung wala ito, puwedeng bumalik ang Arabic sa letrang Latin. Gamitin ang language=ar para sa Arabic. I-convert muna ang .ogg o .m4a: ffmpeg -i voice-note.ogg -ar 16000 -ac 1 voice-note.wav

transcribe.py

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
with open("recording.wav", "rb") as audio:
    result = client.audio.transcriptions.create(
        model="broadnet/cohere-transcribe-arabic",
        file=audio,
        language="ar",
    )
print(result.text)

JSON ang response, at nasa text ang transcript. Arabic o multilingual na model, at magkano ang audio.

Anong mga model ID ang puwede kong gamitin?

Ipasa ang eksaktong ID bilang model. Huwag umasa sa /v1/models para malaman ang mga chat model; gamitin ang listahang ito o ang reference (Ingles).

ModelIDEndpointInputDocumentedAccess
DeepSeek V4.1 Flashbroadnet/deepseek-v4.1-flash/chat/completionsText + LarawanReasoningKailangan ng top-up
GLM 5.3broadnet/glm-5.3/chat/completionsTextTools, Structured output, ReasoningKailangan ng top-up
Qwen3.8 27Bbroadnet/qwen3.8-27b/chat/completionsText + LarawanTools, Structured output, ReasoningKailangan ng top-up
BroadNet Gemma 4 VL 26Bbroadnet/gemma-4-26b-a4b/chat/completionsText + Larawan—Panimulang credit
BroadNet Transcribe Arabicbroadnet/cohere-transcribe-arabic/audio/transcriptionsArabic na audio—Panimulang credit
BroadNet Transcribebroadnet/cohere-transcribe/audio/transcriptionsAudio, 14 wika—Panimulang credit

Ang "Documented" ay ang tools, structured output at reasoning na binabanggit ng reference ng BroadNet para sa bawat model (sinuri noong 2026-11-15). Ang gitling ay nangangahulugang hindi ito binabanggit ng reference; hindi ibig sabihing wala ito.

Paglipat mula sa ibang OpenAI-compatible API: checklist

Pamilyar ang request format, pero magkakaiba ang mga model. Dumaan sa bawat item para sa model na pinili mo, at mag-test bago ilipat ang traffic.

  1. Endpoint. I-set ang base URL sa https://inference.broadnet.ai/v1.
  2. Key. Gumamit ng BroadNet inference key mula sa environment variable. Magkahiwalay ang plan key at pay-as-you-go key.
  3. Model ID. Gamitin ang eksaktong ID, halimbawa broadnet/gemma-4-26b-a4b.
  4. Parameters. Siguraduhing documented para sa model na iyon ang bawat parameter na ipinapadala mo. Tanggalin ang mga hindi nito nakalista.
  5. Streaming. Kumpirmahing binabasa ng client mo ang SSE hanggang [DONE] at kaya nitong hawakan ang stream na maagang natapos.
  6. Tools at structured output. Dino-document ito ng reference para sa GLM 5.3 at Qwen3.8 27B. I-test ang ibang model bago ito asahan.
  7. Reasoning. Puwedeng gumamit ang reasoning ng bahagi ng output budget. Mag-iwan ng puwang sa max_tokens; tingnan ang walang lamang sagot mula sa reasoning model.
  8. Limits. Ang pay-as-you-go key ay may 30 request kada minuto at 4 sabay-sabay na request. Isang request sa bawat pagkakataon ang plan session. Ang Gemma hourly key ay may isang stream, 120 request kada minuto at 300,000 token kada minuto.
  9. Context. Kasama sa context ang input at ang sagot. Tingnan ang limit ng model sa model page nito.
  10. Errors. I-map ang mga status code sa ibaba sa retry o fix, at i-log ang X-Request-ID.
  11. Gastos. Tantiyahin gamit ang pricing calculators. Sa pay-as-you-go, binibilang ang mga larawan bilang input token.

Aling mga error ang dapat kong i-retry?

StatusIbig sabihinGagawin
400 / 422Invalid na request o fieldAyusin ang request; huwag i-retry nang ganoon pa rin
401Walang key, invalid o expired ang key, o ubos na ang allowanceSuriin ang key at ang account
402insufficient_balanceMag-top up, saka i-retry
413Lumampas ang request sa byte o text limitMagpadala ng mas kaunti, halimbawa mas maliit na audio file
429Limit sa rate, concurrency, token rate o paggastosMag-back off nang may hangganan, saka i-retry
500–504Problema sa server sideI-retry gamit ang bounded exponential backoff

Buod mula sa error table ng reference (Ingles), sinuri noong 2026-11-15. Mga code example para sa retry.

Nasaan ang buong docs at mga gabay?

Kailangan mo ba ng private endpoint o model na wala sa listahan? Makipag-ugnayan sa BroadNet.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity