Kailangan mo ng inference key mula sa BroadNet Inference account mo. Nagsisimula ang mga bagong account sa $5 na credit, walang card na kailangan. Kung Python ang gamit mo, tingnan ang gabay sa Python SDK.
1. Mag-install at i-set ang key
Kailangan ng kasalukuyang openai package (7.x) ang Node.js 22 o mas bago.
npm install openai
export BROADNET_API_KEY='paste-the-key-once'
2. Unang request
I-save bilang first-request.mjs at patakbuhin ang node first-request.mjs:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
const response = await client.chat.completions.create({
model: "broadnet/gemma-4-26b-a4b",
messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);
Gumagana ang broadnet/gemma-4-26b-a4b sa libreng credit. Para sa model ng unlimited plan, gamitin ang broadnet/deepseek-v4.1-flash at i-set ang max_tokens sa 1,000 o higit pa, dahil kasama ang reasoning nito sa limit. Bakit walang laman ang mga sagot.
3. Mag-stream ng mga token
const stream = await client.chat.completions.create({
model: "broadnet/deepseek-v4.1-flash",
stream: true,
stream_options: { include_usage: true },
messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
if (chunk.usage) console.log("\n", chunk.usage);
}
4. I-log ang request ID
const { data, request_id } = await client.chat.completions
.create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
.withResponse();
console.log(request_id, data.choices[0].message.content);
Binabasa ng SDK ang request_id mula sa x-request-id header. Nasa data._request_id din ito sa mga parsed na response.
Itago ang ID na iyon kasama ng oras sa UTC, ng route at ng status: hinihingi ang mga ito ng support ng BroadNet. Mga error code at kailan dapat mag-retry.
Troubleshooting
- 401. Mali o expired ang key, o ubos na ang pay-as-you-go allowance. Kapag hindi naka-set ang
BROADNET_API_KEY,undefinedangapiKeyat babalik ang SDK saOPENAI_API_KEY, o magta-throw ito kung wala rin iyon. - 404. Tiyaking nagtatapos sa
/v1angbaseURLatchat.completionsang tinatawag mo, hindiresponses. Pagkatapos, suriin ang model ID, kasama angbroadnet/prefix. - Pumapalya ang bayad na model sa bagong account. Sakop ng $5 na panimulang credit ang BroadNet Gemma 4 VL 26B (
broadnet/gemma-4-26b-a4b) at ang dalawang BroadNet Transcribe model. Mag-top up para magamit ang ibang chat model: DeepSeek V4.1 Flash, GLM 5.3 at Qwen3.8 27B. - Walang laman ang
content. Kasama ang reasoning samax_tokens. Taasan ito o huwag i-set. Bakit walang laman ang mga sagot. - 429. Ang isang pay-as-you-go key ay may 30 request kada minuto at 4 na sabay-sabay. Dalawang beses nagre-retry ang SDK bilang default; i-adjust ang
maxRetriessa client. Tingnan ang streaming chat completions para sa mga naputol na stream.
