BroadRouter
Mulakan

Cara guna OpenAI Node.js SDK dengan BroadNet Inference

Dikemas kini

Pasang pakej npm openai dan cipta klien dengan baseURL ditetapkan kepada https://inference.broadnet.ai/v1 dan apiKey kepada kunci BroadNet anda. Kod chat.completions sedia ada terus berfungsi; tukar ID model sahaja, contohnya broadnet/deepseek-v4.1-flash. BroadNet menyediakan chat completions, bukan Responses API, jadi teruskan menggunakan client.chat.completions.create.

Anda memerlukan kunci inferens daripada akaun BroadNet Inference anda. Akaun baharu bermula dengan kredit $5 tanpa kad. Jika anda menggunakan Python, lihat panduan Python SDK.

1. Pasang dan tetapkan kunci

Pakej openai semasa (7.x) memerlukan Node.js 22 atau lebih baharu.

npm install openai
export BROADNET_API_KEY='paste-the-key-once'

2. Permintaan pertama

Simpan sebagai first-request.mjs dan jalankan node first-request.mjs:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

const response = await client.chat.completions.create({
  model: "broadnet/gemma-4-26b-a4b",
  messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);

broadnet/gemma-4-26b-a4b berfungsi pada kredit percuma. Untuk model pelan tanpa had, gunakan broadnet/deepseek-v4.1-flash dan tetapkan max_tokens kepada 1,000 atau lebih, kerana penaakulannya dikira dalam had itu. Mengapa jawapan kembali kosong.

3. Strim token

const stream = await client.chat.completions.create({
  model: "broadnet/deepseek-v4.1-flash",
  stream: true,
  stream_options: { include_usage: true },
  messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
  if (chunk.usage) console.log("\n", chunk.usage);
}

4. Log ID permintaan

const { data, request_id } = await client.chat.completions
  .create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
  .withResponse();
console.log(request_id, data.choices[0].message.content);

SDK membaca request_id daripada pengepala x-request-id. Respons yang telah dihurai juga membawanya sebagai data._request_id.

Simpan ID itu bersama masa UTC, laluan dan status: sokongan BroadNet akan memintanya. Kod ralat dan bila perlu cuba semula.

Penyelesaian masalah

  • 401. Kunci salah, tamat tempoh, atau elaun bayar ikut guna telah habis. Jika BROADNET_API_KEY tidak ditetapkan, apiKey menjadi undefined dan SDK beralih kepada OPENAI_API_KEY, atau membaling ralat jika itu juga tiada.
  • 404. Pastikan baseURL berakhir dengan /v1 dan anda memanggil chat.completions, bukan responses. Kemudian semak ID model, termasuk awalan broadnet/.
  • Model berbayar gagal pada akaun baharu. Kredit permulaan $5 meliputi BroadNet Gemma 4 VL 26B (broadnet/gemma-4-26b-a4b) dan dua model BroadNet Transcribe. Buat tambah nilai untuk menggunakan model chat lain: DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B.
  • content kosong. Penaakulan dikira dalam max_tokens. Naikkan nilainya atau biarkan tidak ditetapkan. Mengapa jawapan kembali kosong.
  • 429. Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak. Secara lalai, SDK mencuba semula dua kali; laraskan maxRetries pada klien. Lihat penstriman chat completions untuk strim yang terputus.

Soalan lazim

Bolehkah saya menetapkan base URL BroadNet dengan pembolehubah persekitaran dalam Node?

Ya. SDK membaca OPENAI_BASE_URL apabila anda tidak menghantar baseURL, dan OPENAI_API_KEY apabila anda tidak menghantar apiKey. Menghantar kedua-duanya secara eksplisit mengelakkan anda tersilap menghantar kunci BroadNet kepada OpenAI, atau sebaliknya.

Adakah client.responses.create berfungsi dengan BroadNet?

Tidak. Dokumentasi BroadNet hanya menyenaraikan chat completions dan audio transcriptions. Gunakan client.chat.completions.create untuk chat.

Versi Node.js manakah yang diperlukan oleh pakej openai?

Keluaran 7.x semasa menetapkan Node.js 22 atau lebih baharu. Deno, Bun, Cloudflare Workers dan Vercel Edge juga disokong.

Bolehkah saya memanggil BroadNet dari pelayar dengan Node SDK?

Jangan. SDK menyekat penggunaan dalam pelayar kecuali anda menetapkan dangerouslyAllowBrowser, kerana kunci akan dihantar kepada setiap pelawat. Panggil BroadNet dari pelayan anda.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity