BroadRouter
Magsimula

Paano gamitin ang OpenAI Node.js SDK sa BroadNet Inference

Na-update

I-install ang openai npm package at gawin ang client na may baseURL na https://inference.broadnet.ai/v1 at apiKey na ang BroadNet key mo. Gagana pa rin ang kasalukuyan mong chat.completions code; ang model ID lang ang palitan, halimbawa broadnet/deepseek-v4.1-flash. Chat completions ang sinusuportahan ng BroadNet, hindi ang Responses API, kaya gamitin pa rin ang client.chat.completions.create.

Kailangan mo ng inference key mula sa BroadNet Inference account mo. Nagsisimula ang mga bagong account sa $5 na credit, walang card na kailangan. Kung Python ang gamit mo, tingnan ang gabay sa Python SDK.

1. Mag-install at i-set ang key

Kailangan ng kasalukuyang openai package (7.x) ang Node.js 22 o mas bago.

npm install openai
export BROADNET_API_KEY='paste-the-key-once'

2. Unang request

I-save bilang first-request.mjs at patakbuhin ang node first-request.mjs:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

const response = await client.chat.completions.create({
  model: "broadnet/gemma-4-26b-a4b",
  messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);

Gumagana ang broadnet/gemma-4-26b-a4b sa libreng credit. Para sa model ng unlimited plan, gamitin ang broadnet/deepseek-v4.1-flash at i-set ang max_tokens sa 1,000 o higit pa, dahil kasama ang reasoning nito sa limit. Bakit walang laman ang mga sagot.

3. Mag-stream ng mga token

const stream = await client.chat.completions.create({
  model: "broadnet/deepseek-v4.1-flash",
  stream: true,
  stream_options: { include_usage: true },
  messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
  if (chunk.usage) console.log("\n", chunk.usage);
}

4. I-log ang request ID

const { data, request_id } = await client.chat.completions
  .create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
  .withResponse();
console.log(request_id, data.choices[0].message.content);

Binabasa ng SDK ang request_id mula sa x-request-id header. Nasa data._request_id din ito sa mga parsed na response.

Itago ang ID na iyon kasama ng oras sa UTC, ng route at ng status: hinihingi ang mga ito ng support ng BroadNet. Mga error code at kailan dapat mag-retry.

Troubleshooting

  • 401. Mali o expired ang key, o ubos na ang pay-as-you-go allowance. Kapag hindi naka-set ang BROADNET_API_KEY, undefined ang apiKey at babalik ang SDK sa OPENAI_API_KEY, o magta-throw ito kung wala rin iyon.
  • 404. Tiyaking nagtatapos sa /v1 ang baseURL at chat.completions ang tinatawag mo, hindi responses. Pagkatapos, suriin ang model ID, kasama ang broadnet/ prefix.
  • Pumapalya ang bayad na model sa bagong account. Sakop ng $5 na panimulang credit ang BroadNet Gemma 4 VL 26B (broadnet/gemma-4-26b-a4b) at ang dalawang BroadNet Transcribe model. Mag-top up para magamit ang ibang chat model: DeepSeek V4.1 Flash, GLM 5.3 at Qwen3.8 27B.
  • Walang laman ang content. Kasama ang reasoning sa max_tokens. Taasan ito o huwag i-set. Bakit walang laman ang mga sagot.
  • 429. Ang isang pay-as-you-go key ay may 30 request kada minuto at 4 na sabay-sabay. Dalawang beses nagre-retry ang SDK bilang default; i-adjust ang maxRetries sa client. Tingnan ang streaming chat completions para sa mga naputol na stream.

Mga tanong

Puwede ko bang i-set ang base URL ng BroadNet gamit ang environment variable sa Node?

Oo. Binabasa ng SDK ang OPENAI_BASE_URL kapag hindi mo ipinasa ang baseURL, at ang OPENAI_API_KEY kapag hindi mo ipinasa ang apiKey. Kapag tahasan mong ipinasa ang dalawa, hindi mo aksidenteng maipapadala ang BroadNet key sa OpenAI, o ang kabaligtaran.

Gumagana ba ang client.responses.create sa BroadNet?

Hindi. Chat completions at audio transcriptions lang ang nakalista sa docs ng BroadNet. Gamitin ang client.chat.completions.create para sa chat.

Anong Node.js version ang kailangan ng openai package?

Node.js 22 o mas bago ang nakadeklara sa kasalukuyang 7.x release. Suportado rin ang Deno, Bun, Cloudflare Workers at Vercel Edge.

Puwede ko bang tawagin ang BroadNet mula sa browser gamit ang Node SDK?

Huwag. Bina-block ng SDK ang paggamit sa browser maliban kung i-set mo ang dangerouslyAllowBrowser, dahil maipapadala ang key sa bawat bisita. Tawagin ang BroadNet mula sa server mo.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity