Il vous faut une clé d’inférence issue de votre compte BroadNet Inference. Les nouveaux comptes démarrent avec $5 de crédit, sans carte. Si vous travaillez en Python, consultez le guide du SDK Python.
1. Installer et définir la clé
Le paquet openai actuel (7.x) nécessite Node.js 22 ou plus récent.
npm install openai
export BROADNET_API_KEY='paste-the-key-once'
2. Première requête
Enregistrez ceci sous first-request.mjs et lancez node first-request.mjs :
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
const response = await client.chat.completions.create({
model: "broadnet/gemma-4-26b-a4b",
messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);
broadnet/gemma-4-26b-a4b fonctionne avec le crédit gratuit. Pour le modèle du forfait illimité, utilisez broadnet/deepseek-v4.1-flash et fixez max_tokens à 1 000 ou plus, car son raisonnement est décompté de la limite. Pourquoi les réponses reviennent vides.
3. Streamer les tokens
const stream = await client.chat.completions.create({
model: "broadnet/deepseek-v4.1-flash",
stream: true,
stream_options: { include_usage: true },
messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
if (chunk.usage) console.log("\n", chunk.usage);
}
4. Journaliser l’ID de requête
const { data, request_id } = await client.chat.completions
.create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
.withResponse();
console.log(request_id, data.choices[0].message.content);
Le SDK lit request_id dans l’en-tête x-request-id. Les réponses analysées le portent aussi sous data._request_id.
Conservez cet ID avec l’heure UTC, la route et le statut : le support de BroadNet vous les demandera. Codes d’erreur et quand réessayer.
Dépannage
- 401. La clé est erronée, expirée ou son quota de paiement à l’usage est épuisé. Si
BROADNET_API_KEYn’est pas définie,apiKeyvautundefinedet le SDK se rabat surOPENAI_API_KEY, ou lève une erreur si celle-ci manque aussi. - 404. Vérifiez que
baseURLse termine par/v1et que vous appelezchat.completions, pasresponses. Vérifiez ensuite l’ID du modèle, avec le préfixebroadnet/. - Un modèle payant échoue sur un nouveau compte. Le crédit de départ de $5 couvre BroadNet Gemma 4 VL 26B (
broadnet/gemma-4-26b-a4b) et les deux modèles BroadNet Transcribe. Rechargez pour utiliser les autres modèles de chat : DeepSeek V4.1 Flash, GLM 5.3 et Qwen3.8 27B. contentvide. Le raisonnement est décompté demax_tokens. Augmentez-le ou ne le définissez pas. Pourquoi les réponses reviennent vides.- 429. Une clé à l’usage autorise 30 requêtes par minute et 4 simultanées. Par défaut, le SDK réessaie deux fois ; ajustez
maxRetriessur le client. Pour les flux interrompus, voir streamer des chat completions.
