Developer
Diperbarui
BroadNet Inference memakai format permintaan OpenAI di https://inference.broadnet.ai/v1. Buat kunci di konsol, simpan di environment variable, lalu kirim permintaan ke /chat/completions atau /audio/transcriptions dengan ID model yang persis. Sebelum memindahkan trafik produksi, periksa parameter, streaming, tools, batas, dan error untuk model tersebut.
Bagaimana cara mengirim permintaan chat pertama?

- Masuk di inference.broadnet.ai (bahasa Inggris) lalu buat kunci inferensi. Kunci hanya ditampilkan sekali; konsol hanya menyimpan hash-nya.
- Instal OpenAI SDK dan atur kunci di shell Anda. Simpan kunci di server, jangan pernah di kode yang berjalan di browser.
- Kirim permintaan. Baca jawabannya dari
choices[0].message.content.
python -m pip install openai
export BROADNET_API_KEY='paste-the-key-once'first_request.py
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
response = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Reply with one short sentence."}],
)
print(response.choices[0].message.content)request.sh
curl https://inference.broadnet.ai/v1/chat/completions \
-H "Authorization: Bearer $BROADNET_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"broadnet/gemma-4-26b-a4b","messages":[{"role":"user","content":"Reply with one short sentence."}]}'Contoh ini memakai BroadNet Gemma 4 VL 26B, yang dicakup kredit awal US$5. DeepSeek V4.1 Flash, GLM 5.3, dan Qwen3.8 27B memerlukan top up terlebih dahulu. Simpan header respons X-Request-ID untuk keperluan dukungan.
- 01Your appKey kept in an environment variable
- 02OpenAI SDKTwo settings change
base_urlapi_key - 03BroadNet InferenceOpenAI-compatible API
inference.broadnet.ai/v1POST /chat/completions - 04The model you nameSet in every request
broadnet/deepseek-v4.1-flashbroadnet/glm-5.3broadnet/qwen3.8-27bbroadnet/gemma-4-26b-a4byour choice
- 05ResponseFrom that model
You choose the model in each request. There is no automatic routing: the request runs on the model ID you sent.
Your app calls the OpenAI SDK with BroadNet’s base URL and your key. The request goes to BroadNet Inference with the model ID you wrote, and that model answers. Nothing picks or switches the model for you.
Streaming
Atur stream=true dan baca Server-Sent Events sampai data: [DONE]. Dengan stream_options.include_usage, pemakaian token dikirim di chunk terakhir. Jika stream berhenti sebelum [DONE], anggap jawabannya belum lengkap. BroadNet meminta Anda memverifikasi streaming untuk setiap model sebelum mengandalkannya di produksi.
curl -N https://inference.broadnet.ai/v1/chat/completions \
-H "Authorization: Bearer $BROADNET_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"broadnet/gemma-4-26b-a4b","stream":true,"stream_options":{"include_usage":true},"messages":[{"role":"user","content":"Count from one to three."}]}'Bagaimana cara mentranskripsi audio?
Kirim WAV atau MP3, maksimal 26.214.400 byte per file, ke /audio/transcriptions. Selalu isi language: tanpa itu, bahasa Arab bisa kembali dalam huruf Latin. Gunakan language=ar untuk bahasa Arab. Ubah dulu file .ogg atau .m4a: ffmpeg -i voice-note.ogg -ar 16000 -ac 1 voice-note.wav
transcribe.py
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
with open("recording.wav", "rb") as audio:
result = client.audio.transcriptions.create(
model="broadnet/cohere-transcribe-arabic",
file=audio,
language="ar",
)
print(result.text)transcribe.sh
curl https://inference.broadnet.ai/v1/audio/transcriptions \
-H "Authorization: Bearer $BROADNET_API_KEY" \
-F model=broadnet/cohere-transcribe-arabic \
-F language=ar \
-F file=@voice-note.wavResponsnya berupa JSON dengan transkrip di text. Model Arab atau multibahasa, dan berapa biaya audio.
ID model apa saja yang bisa saya pakai?
Kirim ID yang persis sebagai model. Jangan mengandalkan /v1/models untuk menemukan model chat; gunakan daftar ini atau referensi (bahasa Inggris).
| Model | ID | Endpoint | Input | Terdokumentasi | Akses |
|---|---|---|---|---|---|
| DeepSeek V4.1 Flash | broadnet/deepseek-v4.1-flash | /chat/completions | Teks + Gambar | Penalaran | Perlu top up |
| GLM 5.3 | broadnet/glm-5.3 | /chat/completions | Teks | Tools, Output terstruktur, Penalaran | Perlu top up |
| Qwen3.8 27B | broadnet/qwen3.8-27b | /chat/completions | Teks + Gambar | Tools, Output terstruktur, Penalaran | Perlu top up |
| BroadNet Gemma 4 VL 26B | broadnet/gemma-4-26b-a4b | /chat/completions | Teks + Gambar | — | Kredit awal |
| BroadNet Transcribe Arabic | broadnet/cohere-transcribe-arabic | /audio/transcriptions | Audio bahasa Arab | — | Kredit awal |
| BroadNet Transcribe | broadnet/cohere-transcribe | /audio/transcriptions | Audio, 14 bahasa | — | Kredit awal |
Kolom "Terdokumentasi" mencantumkan tools, output terstruktur, dan penalaran yang disebut referensi BroadNet untuk setiap model (diperiksa 2026-11-15). Tanda hubung berarti referensi tidak menyebutnya; bukan berarti fitur itu tidak ada.
Pindah dari API lain yang kompatibel dengan OpenAI: checklist
Format permintaannya sudah familier, tetapi setiap model berbeda. Periksa setiap poin untuk model pilihan Anda, dan uji dulu sebelum memindahkan trafik.
- Endpoint. Atur base URL ke
https://inference.broadnet.ai/v1. - Kunci. Gunakan kunci inferensi BroadNet dari environment variable. Kunci paket dan kunci bayar sesuai pemakaian itu terpisah.
- ID model. Gunakan ID yang persis, misalnya
broadnet/gemma-4-26b-a4b. - Parameter. Pastikan setiap parameter yang Anda kirim terdokumentasi untuk model tersebut. Hapus yang tidak tercantum.
- Streaming. Pastikan klien Anda membaca SSE sampai
[DONE]dan menangani stream yang berhenti lebih awal. - Tools dan output terstruktur. Referensi mendokumentasikannya untuk GLM 5.3 dan Qwen3.8 27B. Uji model lain sebelum mengandalkannya.
- Penalaran. Penalaran bisa memakai sebagian anggaran output. Sisakan ruang di
max_tokens; lihat jawaban kosong dari model penalaran. - Batas. Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit dan 4 permintaan bersamaan. Sesi paket mengizinkan satu permintaan dalam satu waktu. Kunci per jam Gemma mengizinkan satu stream, 120 permintaan per menit, dan 300.000 token per menit.
- Konteks. Konteks mencakup input dan jawaban. Periksa batas model di halaman modelnya.
- Error. Petakan kode status di bawah ke tindakan coba ulang atau perbaikan, dan catat
X-Request-ID. - Biaya. Buat estimasi dengan kalkulator harga. Pada bayar sesuai pemakaian, gambar dihitung sebagai token input.
Error mana yang perlu dicoba ulang?
| Status | Arti | Tindakan |
|---|---|---|
| 400 / 422 | Permintaan atau field tidak valid | Perbaiki permintaan; jangan dicoba ulang apa adanya |
| 401 | Kunci tidak ada, tidak valid, atau kedaluwarsa, atau jatah sudah habis | Periksa kunci dan akun |
| 402 | insufficient_balance | Top up, lalu coba lagi |
| 413 | Permintaan melebihi batas byte atau teks | Kirim lebih sedikit, misalnya file audio yang lebih kecil |
| 429 | Batas laju, konkurensi, token per menit, atau pengeluaran | Tunggu dengan batas percobaan, lalu coba lagi |
| 500–504 | Masalah di sisi server | Coba ulang dengan exponential backoff yang dibatasi |
Diringkas dari tabel error di referensi (bahasa Inggris), diperiksa 2026-11-15. Contoh kode untuk percobaan ulang.
Di mana dokumentasi dan panduan lengkapnya?

- Referensi developer (bahasa Inggris)Format permintaan, batas, error, dan feed harga. Sumber resmi.
- Integrasi (bahasa Inggris)Pengaturan untuk Aider, Cline, LangChain, n8n, LiteLLM, dan tool lain yang kompatibel dengan OpenAI.
- PanduanSDK, streaming, percobaan ulang, daftar IP yang diizinkan, dan suara bahasa Arab.
- Panduan SDK PythonInstalasi, permintaan pertama, dan streaming dengan OpenAI Python SDK.
- Panduan SDK NodeHal yang sama di JavaScript dan TypeScript, dengan ID permintaan.
- Panduan cepat cURLSemua permintaan dari shell.
- Kunci dan daftar IP yang diizinkanBatasi kunci hanya untuk server Anda.
- Pembuat permintaan API (bahasa Inggris)Susun permintaan di browser lalu salin.
Butuh endpoint privat atau model yang tidak ada di daftar? Hubungi BroadNet.
Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity