Anda memerlukan akun BroadNet Inference dan kunci inferensi. Akun baru dimulai dengan kredit $5 tanpa kartu; buat akun di inference.broadnet.ai. Konsol hanya menampilkan kunci sekali dan hanya menyimpan hash-nya, jadi salin kunci langsung ke environment Anda.
1. Instal dan atur kunci
Paket openai versi terbaru (3.x) memerlukan Python 3.10 atau lebih baru.
python -m pip install openai
export BROADNET_API_KEY='paste-the-key-once'
2. Kirim permintaan pertama
Simpan kode ini sebagai first_request.py:
from openai import OpenAI
import os
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
response = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Reply with one short sentence."}],
)
print(response.choices[0].message.content)
Jalankan dengan python first_request.py. Contoh ini memakai broadnet/gemma-4-26b-a4b karena model itu berjalan dengan kredit gratis. Model chat lainnya tersedia setelah top up.
3. Ganti ke model yang Anda inginkan
Ubah hanya model:
| Yang Anda perlukan | ID model |
|---|---|
| Unlimited dengan paket harga tetap, konteks 1M | broadnet/deepseek-v4.1-flash |
| Tools dan output terstruktur, konteks 1M | broadnet/glm-5.3 |
| Teks dan gambar berbahasa Arab | broadnet/qwen3.8-27b |
| Harga rendah, berjalan dengan kredit gratis | broadnet/gemma-4-26b-a4b |
DeepSeek V4.1 Flash, GLM 5.3, dan Qwen3.8 27B bernalar sebelum menjawab, dan penalarannya dihitung dalam max_tokens. Beri mereka 1.000 token atau lebih. Ini alasan batas yang kecil menghasilkan jawaban kosong.
4. Stream jawabannya
stream = client.chat.completions.create(
model="broadnet/deepseek-v4.1-flash",
stream=True,
stream_options={"include_usage": True},
messages=[{"role": "user", "content": "Count from one to three."}],
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if chunk.usage:
print("\n", chunk.usage)
Dengan include_usage, jumlah token tiba di chunk terakhir, yang tidak memiliki choices. Panduan streaming membahas koneksi yang terputus.
5. Simpan request ID
Setiap respons membawa header X-Request-ID. Catat nilainya: tim dukungan BroadNet akan memintanya. Respons yang sudah di-parse menyediakannya sebagai response._request_id. Untuk membacanya bersama header lain:
raw = client.chat.completions.with_raw_response.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Hi"}],
)
print(raw.headers.get("x-request-id"))
response = raw.parse()
Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit dan 4 permintaan yang berjalan bersamaan. Arti setiap kode error dan kapan harus mencoba ulang.
Pemecahan masalah
AuthenticationError(401). Kunci salah, kedaluwarsa, atau jatah bayar sesuai pemakaian sudah habis. PastikanBROADNET_API_KEYdiatur di proses yang menjalankan kode Anda.NotFoundError(404). Pastikanbase_urldiakhiri/v1dan Anda memanggilchat.completions, bukanresponses. Lalu periksa ID model, lengkap dengan prefiksbroadnet/.- Model berbayar gagal di akun baru. Kredit awal $5 mencakup BroadNet Gemma 4 VL 26B (
broadnet/gemma-4-26b-a4b) dan dua model BroadNet Transcribe. Lakukan top up untuk memakai model chat lainnya: DeepSeek V4.1 Flash, GLM 5.3, dan Qwen3.8 27B. contentkosong. Penalaran dihitung dalammax_tokens. Naikkan menjadi 1.000 atau lebih. Kenapa jawaban kembali kosong.RateLimitError(429). Anda melewati batas per menit atau batas permintaan bersamaan. Secara default SDK mencoba ulang dua kali; aturmax_retriespada client untuk mengubahnya.- Error custom HTTP client setelah upgrade. SDK 3.x memakai HTTPX2. Jika Anda mengirim
http_clientsendiri, ikuti panduan migrasi HTTPX2 dari SDK.
