BroadRouter
Inizia

Usare l’SDK Node.js di OpenAI con BroadNet Inference

Aggiornato

Installa il pacchetto npm openai e crea il client con baseURL impostato su https://inference.broadnet.ai/v1 e apiKey con la tua chiave BroadNet. Il codice chat.completions che hai già continua a funzionare; cambia solo l’ID del modello, per esempio broadnet/deepseek-v4.1-flash. BroadNet serve chat completions, non la Responses API, quindi continua a usare client.chat.completions.create.

Ti serve una chiave di inferenza dal tuo account BroadNet Inference. I nuovi account partono con $5 di credito e senza carta. Se invece usi Python, vedi la guida all’SDK Python.

1. Installa e imposta la chiave

L’attuale pacchetto openai (7.x) richiede Node.js 22 o successivo.

npm install openai
export BROADNET_API_KEY='paste-the-key-once'

2. Prima richiesta

Salva come first-request.mjs ed esegui node first-request.mjs:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

const response = await client.chat.completions.create({
  model: "broadnet/gemma-4-26b-a4b",
  messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);

broadnet/gemma-4-26b-a4b funziona con il credito gratuito. Per il modello dei piani illimitati usa broadnet/deepseek-v4.1-flash e imposta max_tokens a 1.000 o più, perché il suo ragionamento conta nel limite. Perché le risposte arrivano vuote.

3. Streaming dei token

const stream = await client.chat.completions.create({
  model: "broadnet/deepseek-v4.1-flash",
  stream: true,
  stream_options: { include_usage: true },
  messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
  if (chunk.usage) console.log("\n", chunk.usage);
}

4. Registra l’ID della richiesta

const { data, request_id } = await client.chat.completions
  .create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
  .withResponse();
console.log(request_id, data.choices[0].message.content);

L’SDK legge request_id dall’header x-request-id. Le risposte già interpretate lo riportano anche come data._request_id.

Conserva quell’ID insieme all’ora UTC, alla route e allo stato: l’assistenza di BroadNet li chiede. Codici di errore e quando ritentare.

Risoluzione dei problemi

  • 401. La chiave è sbagliata, scaduta o ha esaurito la quota a consumo. Se BROADNET_API_KEY non è impostata, apiKey vale undefined e l’SDK ripiega su OPENAI_API_KEY, oppure lancia un errore se manca anche quella.
  • 404. Verifica che baseURL termini con /v1 e che tu chiami chat.completions, non responses. Poi controlla l’ID del modello, con il prefisso broadnet/.
  • Un modello a pagamento fallisce su un account nuovo. Il credito iniziale di $5 copre BroadNet Gemma 4 VL 26B (broadnet/gemma-4-26b-a4b) e i due modelli BroadNet Transcribe. Ricarica per usare gli altri modelli di chat: DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B.
  • content vuoto. Il ragionamento conta in max_tokens. Alzalo o non impostarlo. Perché le risposte arrivano vuote.
  • 429. Una chiave a consumo consente 30 richieste al minuto e 4 contemporanee. Per impostazione predefinita l’SDK ritenta due volte; regola maxRetries sul client. Per gli stream interrotti vedi streaming delle chat completions.

Domande frequenti

In Node posso impostare la base URL di BroadNet con una variabile d’ambiente?

Sì. L’SDK legge OPENAI_BASE_URL quando non passi baseURL, e OPENAI_API_KEY quando non passi apiKey. Passarli entrambi in modo esplicito evita di mandare per errore una chiave BroadNet a OpenAI, o il contrario.

client.responses.create funziona con BroadNet?

No. La documentazione di BroadNet elenca solo chat completions e audio transcriptions. Per la chat usa client.chat.completions.create.

Quale versione di Node.js richiede il pacchetto openai?

L’attuale release 7.x dichiara Node.js 22 o successivo. Sono supportati anche Deno, Bun, Cloudflare Workers e Vercel Edge.

Posso chiamare BroadNet dal browser con l’SDK Node?

Meglio di no. L’SDK blocca l’uso nel browser a meno che tu non imposti dangerouslyAllowBrowser, perché la chiave finirebbe a ogni visitatore. Chiama BroadNet dal tuo server.

Leggi in MarkdownChiedi a ChatGPTChiedi a ClaudeChiedi a Perplexity