BroadRouter
Commencer

Utiliser le SDK Node.js d’OpenAI avec BroadNet Inference

Mis à jour

Installez le paquet npm openai et créez le client avec baseURL défini sur https://inference.broadnet.ai/v1 et apiKey sur votre clé BroadNet. Votre code chat.completions existant continue de fonctionner ; changez seulement l’ID du modèle, par exemple broadnet/deepseek-v4.1-flash. BroadNet sert les chat completions, pas la Responses API : gardez client.chat.completions.create.

Il vous faut une clé d’inférence issue de votre compte BroadNet Inference. Les nouveaux comptes démarrent avec $5 de crédit, sans carte. Si vous travaillez en Python, consultez le guide du SDK Python.

1. Installer et définir la clé

Le paquet openai actuel (7.x) nécessite Node.js 22 ou plus récent.

npm install openai
export BROADNET_API_KEY='paste-the-key-once'

2. Première requête

Enregistrez ceci sous first-request.mjs et lancez node first-request.mjs :

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

const response = await client.chat.completions.create({
  model: "broadnet/gemma-4-26b-a4b",
  messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);

broadnet/gemma-4-26b-a4b fonctionne avec le crédit gratuit. Pour le modèle du forfait illimité, utilisez broadnet/deepseek-v4.1-flash et fixez max_tokens à 1 000 ou plus, car son raisonnement est décompté de la limite. Pourquoi les réponses reviennent vides.

3. Streamer les tokens

const stream = await client.chat.completions.create({
  model: "broadnet/deepseek-v4.1-flash",
  stream: true,
  stream_options: { include_usage: true },
  messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
  if (chunk.usage) console.log("\n", chunk.usage);
}

4. Journaliser l’ID de requête

const { data, request_id } = await client.chat.completions
  .create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
  .withResponse();
console.log(request_id, data.choices[0].message.content);

Le SDK lit request_id dans l’en-tête x-request-id. Les réponses analysées le portent aussi sous data._request_id.

Conservez cet ID avec l’heure UTC, la route et le statut : le support de BroadNet vous les demandera. Codes d’erreur et quand réessayer.

Dépannage

  • 401. La clé est erronée, expirée ou son quota de paiement à l’usage est épuisé. Si BROADNET_API_KEY n’est pas définie, apiKey vaut undefined et le SDK se rabat sur OPENAI_API_KEY, ou lève une erreur si celle-ci manque aussi.
  • 404. Vérifiez que baseURL se termine par /v1 et que vous appelez chat.completions, pas responses. Vérifiez ensuite l’ID du modèle, avec le préfixe broadnet/.
  • Un modèle payant échoue sur un nouveau compte. Le crédit de départ de $5 couvre BroadNet Gemma 4 VL 26B (broadnet/gemma-4-26b-a4b) et les deux modèles BroadNet Transcribe. Rechargez pour utiliser les autres modèles de chat : DeepSeek V4.1 Flash, GLM 5.3 et Qwen3.8 27B.
  • content vide. Le raisonnement est décompté de max_tokens. Augmentez-le ou ne le définissez pas. Pourquoi les réponses reviennent vides.
  • 429. Une clé à l’usage autorise 30 requêtes par minute et 4 simultanées. Par défaut, le SDK réessaie deux fois ; ajustez maxRetries sur le client. Pour les flux interrompus, voir streamer des chat completions.

Questions fréquentes

Puis-je définir l’URL de base de BroadNet avec une variable d’environnement dans Node ?

Oui. Le SDK lit OPENAI_BASE_URL si vous ne passez pas baseURL, et OPENAI_API_KEY si vous ne passez pas apiKey. Passer les deux explicitement évite d’envoyer par erreur une clé BroadNet à OpenAI, ou l’inverse.

Est-ce que client.responses.create fonctionne avec BroadNet ?

Non. La documentation de BroadNet ne mentionne que les chat completions et les audio transcriptions. Pour le chat, utilisez client.chat.completions.create.

Quelle version de Node.js le paquet openai exige-t-il ?

La version 7.x actuelle déclare Node.js 22 ou plus récent. Deno, Bun, Cloudflare Workers et Vercel Edge sont également pris en charge.

Puis-je appeler BroadNet depuis le navigateur avec le SDK Node ?

À éviter. Le SDK bloque l’usage dans le navigateur tant que vous ne définissez pas dangerouslyAllowBrowser, car la clé serait envoyée à chaque visiteur. Appelez plutôt BroadNet depuis votre serveur.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity