Para sa developers
Na-update
Ginagamit ng BroadNet Inference ang request format ng OpenAI sa https://inference.broadnet.ai/v1. Gumawa ng key sa console, itago ito sa environment variable, at magpadala ng request sa /chat/completions o /audio/transcriptions gamit ang eksaktong model ID. Bago ilipat ang production traffic, suriin ang parameters, streaming, tools, limits at errors ng model na iyon.
Paano ko ipapadala ang una kong chat request?

- Mag-sign in sa inference.broadnet.ai (Ingles) at gumawa ng inference key. Isang beses lang itong ipinapakita; hash lang nito ang itinatago ng console.
- I-install ang OpenAI SDK at i-set ang key sa shell mo. Itago ang mga key sa server mo, hindi kailanman sa browser code.
- Ipadala ang request. Basahin ang sagot sa
choices[0].message.content.
python -m pip install openai
export BROADNET_API_KEY='paste-the-key-once'first_request.py
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
response = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Reply with one short sentence."}],
)
print(response.choices[0].message.content)request.sh
curl https://inference.broadnet.ai/v1/chat/completions \
-H "Authorization: Bearer $BROADNET_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"broadnet/gemma-4-26b-a4b","messages":[{"role":"user","content":"Reply with one short sentence."}]}'Gumagamit ang example ng BroadNet Gemma 4 VL 26B, na sakop ng US$5 na panimulang credit. Kailangan munang mag-top up para sa DeepSeek V4.1 Flash, GLM 5.3, at Qwen3.8 27B. Itago ang response header na X-Request-ID para sa support.
- 01Your appKey kept in an environment variable
- 02OpenAI SDKTwo settings change
base_urlapi_key - 03BroadNet InferenceOpenAI-compatible API
inference.broadnet.ai/v1POST /chat/completions - 04The model you nameSet in every request
broadnet/deepseek-v4.1-flashbroadnet/glm-5.3broadnet/qwen3.8-27bbroadnet/gemma-4-26b-a4byour choice
- 05ResponseFrom that model
You choose the model in each request. There is no automatic routing: the request runs on the model ID you sent.
Your app calls the OpenAI SDK with BroadNet’s base URL and your key. The request goes to BroadNet Inference with the model ID you wrote, and that model answers. Nothing picks or switches the model for you.
Streaming
I-set ang stream=true at basahin ang Server-Sent Events hanggang data: [DONE]. Kapag may stream_options.include_usage, darating ang token usage sa huling chunk. Kung natapos ang stream bago ang [DONE], ituring na hindi kumpleto ang sagot. Hinihiling ng BroadNet na i-verify ang streaming sa bawat model bago ito asahan sa production.
curl -N https://inference.broadnet.ai/v1/chat/completions \
-H "Authorization: Bearer $BROADNET_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"broadnet/gemma-4-26b-a4b","stream":true,"stream_options":{"include_usage":true},"messages":[{"role":"user","content":"Count from one to three."}]}'Paano ako magta-transcribe ng audio?
Magpadala ng WAV o MP3, hanggang 26,214,400 bytes kada file, sa /audio/transcriptions. Laging i-set ang language: kung wala ito, puwedeng bumalik ang Arabic sa letrang Latin. Gamitin ang language=ar para sa Arabic. I-convert muna ang .ogg o .m4a: ffmpeg -i voice-note.ogg -ar 16000 -ac 1 voice-note.wav
transcribe.py
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
with open("recording.wav", "rb") as audio:
result = client.audio.transcriptions.create(
model="broadnet/cohere-transcribe-arabic",
file=audio,
language="ar",
)
print(result.text)transcribe.sh
curl https://inference.broadnet.ai/v1/audio/transcriptions \
-H "Authorization: Bearer $BROADNET_API_KEY" \
-F model=broadnet/cohere-transcribe-arabic \
-F language=ar \
-F file=@voice-note.wavJSON ang response, at nasa text ang transcript. Arabic o multilingual na model, at magkano ang audio.
Anong mga model ID ang puwede kong gamitin?
Ipasa ang eksaktong ID bilang model. Huwag umasa sa /v1/models para malaman ang mga chat model; gamitin ang listahang ito o ang reference (Ingles).
| Model | ID | Endpoint | Input | Documented | Access |
|---|---|---|---|---|---|
| DeepSeek V4.1 Flash | broadnet/deepseek-v4.1-flash | /chat/completions | Text + Larawan | Reasoning | Kailangan ng top-up |
| GLM 5.3 | broadnet/glm-5.3 | /chat/completions | Text | Tools, Structured output, Reasoning | Kailangan ng top-up |
| Qwen3.8 27B | broadnet/qwen3.8-27b | /chat/completions | Text + Larawan | Tools, Structured output, Reasoning | Kailangan ng top-up |
| BroadNet Gemma 4 VL 26B | broadnet/gemma-4-26b-a4b | /chat/completions | Text + Larawan | — | Panimulang credit |
| BroadNet Transcribe Arabic | broadnet/cohere-transcribe-arabic | /audio/transcriptions | Arabic na audio | — | Panimulang credit |
| BroadNet Transcribe | broadnet/cohere-transcribe | /audio/transcriptions | Audio, 14 wika | — | Panimulang credit |
Ang "Documented" ay ang tools, structured output at reasoning na binabanggit ng reference ng BroadNet para sa bawat model (sinuri noong 2026-11-15). Ang gitling ay nangangahulugang hindi ito binabanggit ng reference; hindi ibig sabihing wala ito.
Paglipat mula sa ibang OpenAI-compatible API: checklist
Pamilyar ang request format, pero magkakaiba ang mga model. Dumaan sa bawat item para sa model na pinili mo, at mag-test bago ilipat ang traffic.
- Endpoint. I-set ang base URL sa
https://inference.broadnet.ai/v1. - Key. Gumamit ng BroadNet inference key mula sa environment variable. Magkahiwalay ang plan key at pay-as-you-go key.
- Model ID. Gamitin ang eksaktong ID, halimbawa
broadnet/gemma-4-26b-a4b. - Parameters. Siguraduhing documented para sa model na iyon ang bawat parameter na ipinapadala mo. Tanggalin ang mga hindi nito nakalista.
- Streaming. Kumpirmahing binabasa ng client mo ang SSE hanggang
[DONE]at kaya nitong hawakan ang stream na maagang natapos. - Tools at structured output. Dino-document ito ng reference para sa GLM 5.3 at Qwen3.8 27B. I-test ang ibang model bago ito asahan.
- Reasoning. Puwedeng gumamit ang reasoning ng bahagi ng output budget. Mag-iwan ng puwang sa
max_tokens; tingnan ang walang lamang sagot mula sa reasoning model. - Limits. Ang pay-as-you-go key ay may 30 request kada minuto at 4 sabay-sabay na request. Isang request sa bawat pagkakataon ang plan session. Ang Gemma hourly key ay may isang stream, 120 request kada minuto at 300,000 token kada minuto.
- Context. Kasama sa context ang input at ang sagot. Tingnan ang limit ng model sa model page nito.
- Errors. I-map ang mga status code sa ibaba sa retry o fix, at i-log ang
X-Request-ID. - Gastos. Tantiyahin gamit ang pricing calculators. Sa pay-as-you-go, binibilang ang mga larawan bilang input token.
Aling mga error ang dapat kong i-retry?
| Status | Ibig sabihin | Gagawin |
|---|---|---|
| 400 / 422 | Invalid na request o field | Ayusin ang request; huwag i-retry nang ganoon pa rin |
| 401 | Walang key, invalid o expired ang key, o ubos na ang allowance | Suriin ang key at ang account |
| 402 | insufficient_balance | Mag-top up, saka i-retry |
| 413 | Lumampas ang request sa byte o text limit | Magpadala ng mas kaunti, halimbawa mas maliit na audio file |
| 429 | Limit sa rate, concurrency, token rate o paggastos | Mag-back off nang may hangganan, saka i-retry |
| 500–504 | Problema sa server side | I-retry gamit ang bounded exponential backoff |
Buod mula sa error table ng reference (Ingles), sinuri noong 2026-11-15. Mga code example para sa retry.
Nasaan ang buong docs at mga gabay?

- Developer reference (Ingles)Request format, limits, errors at ang price feed. Ang opisyal na source.
- Integrations (Ingles)Settings para sa Aider, Cline, LangChain, n8n, LiteLLM at iba pang OpenAI-compatible na tools.
- Mga gabaySDK, streaming, retries, IP allow-list at Arabic speech.
- Gabay sa Python SDKInstall, unang request at streaming gamit ang OpenAI Python SDK.
- Gabay sa Node SDKPareho, sa JavaScript at TypeScript, may request ID.
- cURL quickstartLahat ng request mula sa shell.
- Mga key at IP allow-listI-lock ang mga key sa mga server mo.
- API request builder (Ingles)Bumuo ng request sa browser mo at kopyahin ito.
Kailangan mo ba ng private endpoint o model na wala sa listahan? Makipag-ugnayan sa BroadNet.
Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity