BroadRouter
Mulai

Memakai OpenAI Node.js SDK dengan BroadNet Inference

Diperbarui

Instal paket npm openai dan buat client dengan baseURL https://inference.broadnet.ai/v1 serta apiKey berisi kunci BroadNet Anda. Kode chat.completions yang sudah ada tetap berjalan; ubah hanya ID model, misalnya broadnet/deepseek-v4.1-flash. BroadNet melayani chat completions, bukan Responses API, jadi tetap gunakan client.chat.completions.create.

Anda memerlukan kunci inferensi dari akun BroadNet Inference Anda. Akun baru dimulai dengan kredit $5 tanpa kartu. Jika Anda memakai Python, lihat panduan Python SDK.

1. Instal dan atur kunci

Paket openai versi terbaru (7.x) memerlukan Node.js 22 atau lebih baru.

npm install openai
export BROADNET_API_KEY='paste-the-key-once'

2. Permintaan pertama

Simpan sebagai first-request.mjs lalu jalankan node first-request.mjs:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

const response = await client.chat.completions.create({
  model: "broadnet/gemma-4-26b-a4b",
  messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);

broadnet/gemma-4-26b-a4b berjalan dengan kredit gratis. Untuk model paket unlimited, gunakan broadnet/deepseek-v4.1-flash dan atur max_tokens ke 1.000 atau lebih, karena penalarannya dihitung dalam batas itu. Kenapa jawaban kembali kosong.

3. Stream token

const stream = await client.chat.completions.create({
  model: "broadnet/deepseek-v4.1-flash",
  stream: true,
  stream_options: { include_usage: true },
  messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
  if (chunk.usage) console.log("\n", chunk.usage);
}

4. Catat request ID

const { data, request_id } = await client.chat.completions
  .create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
  .withResponse();
console.log(request_id, data.choices[0].message.content);

SDK membaca request_id dari header x-request-id. Respons yang sudah di-parse juga membawanya sebagai data._request_id.

Simpan ID itu bersama waktu UTC, rute, dan status: tim dukungan BroadNet akan memintanya. Kode error dan kapan harus mencoba ulang.

Pemecahan masalah

  • 401. Kunci salah, kedaluwarsa, atau jatah bayar sesuai pemakaian sudah habis. Jika BROADNET_API_KEY tidak diatur, apiKey bernilai undefined dan SDK beralih ke OPENAI_API_KEY, atau melempar error jika variabel itu juga tidak ada.
  • 404. Pastikan baseURL diakhiri /v1 dan Anda memanggil chat.completions, bukan responses. Lalu periksa ID model, lengkap dengan prefiks broadnet/.
  • Model berbayar gagal di akun baru. Kredit awal $5 mencakup BroadNet Gemma 4 VL 26B (broadnet/gemma-4-26b-a4b) dan dua model BroadNet Transcribe. Lakukan top up untuk memakai model chat lainnya: DeepSeek V4.1 Flash, GLM 5.3, dan Qwen3.8 27B.
  • content kosong. Penalaran dihitung dalam max_tokens. Naikkan nilainya atau biarkan tidak diatur. Kenapa jawaban kembali kosong.
  • 429. Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit dan 4 permintaan sekaligus. Secara default SDK mencoba ulang dua kali; atur maxRetries pada client. Untuk stream yang terputus, lihat streaming chat completions.

Pertanyaan umum

Bisakah saya mengatur base URL BroadNet lewat environment variable di Node?

Bisa. SDK membaca OPENAI_BASE_URL jika Anda tidak mengisi baseURL, dan OPENAI_API_KEY jika Anda tidak mengisi apiKey. Mengisi keduanya secara eksplisit mencegah Anda tidak sengaja mengirim kunci BroadNet ke OpenAI, atau sebaliknya.

Apakah client.responses.create berfungsi dengan BroadNet?

Tidak. Dokumentasi BroadNet hanya mencantumkan chat completions dan audio transcriptions. Gunakan client.chat.completions.create untuk chat.

Versi Node.js berapa yang dibutuhkan paket openai?

Rilis 7.x saat ini mensyaratkan Node.js 22 atau lebih baru. Deno, Bun, Cloudflare Workers, dan Vercel Edge juga didukung.

Bisakah saya memanggil BroadNet dari browser dengan Node SDK?

Jangan. SDK memblokir penggunaan di browser kecuali Anda mengatur dangerouslyAllowBrowser, karena kunci akan terkirim ke setiap pengunjung. Panggil BroadNet dari server Anda.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity