Anda memerlukan kunci inferens daripada akaun BroadNet Inference anda. Akaun baharu bermula dengan kredit $5 tanpa kad. Jika anda menggunakan Python, lihat panduan Python SDK.
1. Pasang dan tetapkan kunci
Pakej openai semasa (7.x) memerlukan Node.js 22 atau lebih baharu.
npm install openai
export BROADNET_API_KEY='paste-the-key-once'
2. Permintaan pertama
Simpan sebagai first-request.mjs dan jalankan node first-request.mjs:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
const response = await client.chat.completions.create({
model: "broadnet/gemma-4-26b-a4b",
messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);
broadnet/gemma-4-26b-a4b berfungsi pada kredit percuma. Untuk model pelan tanpa had, gunakan broadnet/deepseek-v4.1-flash dan tetapkan max_tokens kepada 1,000 atau lebih, kerana penaakulannya dikira dalam had itu. Mengapa jawapan kembali kosong.
3. Strim token
const stream = await client.chat.completions.create({
model: "broadnet/deepseek-v4.1-flash",
stream: true,
stream_options: { include_usage: true },
messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
if (chunk.usage) console.log("\n", chunk.usage);
}
4. Log ID permintaan
const { data, request_id } = await client.chat.completions
.create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
.withResponse();
console.log(request_id, data.choices[0].message.content);
SDK membaca request_id daripada pengepala x-request-id. Respons yang telah dihurai juga membawanya sebagai data._request_id.
Simpan ID itu bersama masa UTC, laluan dan status: sokongan BroadNet akan memintanya. Kod ralat dan bila perlu cuba semula.
Penyelesaian masalah
- 401. Kunci salah, tamat tempoh, atau elaun bayar ikut guna telah habis. Jika
BROADNET_API_KEYtidak ditetapkan,apiKeymenjadiundefineddan SDK beralih kepadaOPENAI_API_KEY, atau membaling ralat jika itu juga tiada. - 404. Pastikan
baseURLberakhir dengan/v1dan anda memanggilchat.completions, bukanresponses. Kemudian semak ID model, termasuk awalanbroadnet/. - Model berbayar gagal pada akaun baharu. Kredit permulaan $5 meliputi BroadNet Gemma 4 VL 26B (
broadnet/gemma-4-26b-a4b) dan dua model BroadNet Transcribe. Buat tambah nilai untuk menggunakan model chat lain: DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B. contentkosong. Penaakulan dikira dalammax_tokens. Naikkan nilainya atau biarkan tidak ditetapkan. Mengapa jawapan kembali kosong.- 429. Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak. Secara lalai, SDK mencuba semula dua kali; laraskan
maxRetriespada klien. Lihat penstriman chat completions untuk strim yang terputus.
