Anda memerlukan kunci inferensi dari akun BroadNet Inference Anda. Akun baru dimulai dengan kredit $5 tanpa kartu. Jika Anda memakai Python, lihat panduan Python SDK.
1. Instal dan atur kunci
Paket openai versi terbaru (7.x) memerlukan Node.js 22 atau lebih baru.
npm install openai
export BROADNET_API_KEY='paste-the-key-once'
2. Permintaan pertama
Simpan sebagai first-request.mjs lalu jalankan node first-request.mjs:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
const response = await client.chat.completions.create({
model: "broadnet/gemma-4-26b-a4b",
messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);
broadnet/gemma-4-26b-a4b berjalan dengan kredit gratis. Untuk model paket unlimited, gunakan broadnet/deepseek-v4.1-flash dan atur max_tokens ke 1.000 atau lebih, karena penalarannya dihitung dalam batas itu. Kenapa jawaban kembali kosong.
3. Stream token
const stream = await client.chat.completions.create({
model: "broadnet/deepseek-v4.1-flash",
stream: true,
stream_options: { include_usage: true },
messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
if (chunk.usage) console.log("\n", chunk.usage);
}
4. Catat request ID
const { data, request_id } = await client.chat.completions
.create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
.withResponse();
console.log(request_id, data.choices[0].message.content);
SDK membaca request_id dari header x-request-id. Respons yang sudah di-parse juga membawanya sebagai data._request_id.
Simpan ID itu bersama waktu UTC, rute, dan status: tim dukungan BroadNet akan memintanya. Kode error dan kapan harus mencoba ulang.
Pemecahan masalah
- 401. Kunci salah, kedaluwarsa, atau jatah bayar sesuai pemakaian sudah habis. Jika
BROADNET_API_KEYtidak diatur,apiKeybernilaiundefineddan SDK beralih keOPENAI_API_KEY, atau melempar error jika variabel itu juga tidak ada. - 404. Pastikan
baseURLdiakhiri/v1dan Anda memanggilchat.completions, bukanresponses. Lalu periksa ID model, lengkap dengan prefiksbroadnet/. - Model berbayar gagal di akun baru. Kredit awal $5 mencakup BroadNet Gemma 4 VL 26B (
broadnet/gemma-4-26b-a4b) dan dua model BroadNet Transcribe. Lakukan top up untuk memakai model chat lainnya: DeepSeek V4.1 Flash, GLM 5.3, dan Qwen3.8 27B. contentkosong. Penalaran dihitung dalammax_tokens. Naikkan nilainya atau biarkan tidak diatur. Kenapa jawaban kembali kosong.- 429. Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit dan 4 permintaan sekaligus. Secara default SDK mencoba ulang dua kali; atur
maxRetriespada client. Untuk stream yang terputus, lihat streaming chat completions.
