Ti serve una chiave di inferenza dal tuo account BroadNet Inference. I nuovi account partono con $5 di credito e senza carta. Se invece usi Python, vedi la guida all’SDK Python.
1. Installa e imposta la chiave
L’attuale pacchetto openai (7.x) richiede Node.js 22 o successivo.
npm install openai
export BROADNET_API_KEY='paste-the-key-once'
2. Prima richiesta
Salva come first-request.mjs ed esegui node first-request.mjs:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
const response = await client.chat.completions.create({
model: "broadnet/gemma-4-26b-a4b",
messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);
broadnet/gemma-4-26b-a4b funziona con il credito gratuito. Per il modello dei piani illimitati usa broadnet/deepseek-v4.1-flash e imposta max_tokens a 1.000 o più, perché il suo ragionamento conta nel limite. Perché le risposte arrivano vuote.
3. Streaming dei token
const stream = await client.chat.completions.create({
model: "broadnet/deepseek-v4.1-flash",
stream: true,
stream_options: { include_usage: true },
messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
if (chunk.usage) console.log("\n", chunk.usage);
}
4. Registra l’ID della richiesta
const { data, request_id } = await client.chat.completions
.create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
.withResponse();
console.log(request_id, data.choices[0].message.content);
L’SDK legge request_id dall’header x-request-id. Le risposte già interpretate lo riportano anche come data._request_id.
Conserva quell’ID insieme all’ora UTC, alla route e allo stato: l’assistenza di BroadNet li chiede. Codici di errore e quando ritentare.
Risoluzione dei problemi
- 401. La chiave è sbagliata, scaduta o ha esaurito la quota a consumo. Se
BROADNET_API_KEYnon è impostata,apiKeyvaleundefinede l’SDK ripiega suOPENAI_API_KEY, oppure lancia un errore se manca anche quella. - 404. Verifica che
baseURLtermini con/v1e che tu chiamichat.completions, nonresponses. Poi controlla l’ID del modello, con il prefissobroadnet/. - Un modello a pagamento fallisce su un account nuovo. Il credito iniziale di $5 copre BroadNet Gemma 4 VL 26B (
broadnet/gemma-4-26b-a4b) e i due modelli BroadNet Transcribe. Ricarica per usare gli altri modelli di chat: DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B. contentvuoto. Il ragionamento conta inmax_tokens. Alzalo o non impostarlo. Perché le risposte arrivano vuote.- 429. Una chiave a consumo consente 30 richieste al minuto e 4 contemporanee. Per impostazione predefinita l’SDK ritenta due volte; regola
maxRetriessul client. Per gli stream interrotti vedi streaming delle chat completions.
