Necesita una clave de inferencia de su cuenta de BroadNet Inference. Las cuentas nuevas empiezan con $5 de crédito y sin tarjeta. Si usa Python, consulte la guía del SDK para Python.
1. Instale el paquete y configure la clave
El paquete openai actual (7.x) requiere Node.js 22 o posterior.
npm install openai
export BROADNET_API_KEY='paste-the-key-once'
2. Primera solicitud
Guárdelo como first-request.mjs y ejecute node first-request.mjs:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
const response = await client.chat.completions.create({
model: "broadnet/gemma-4-26b-a4b",
messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);
broadnet/gemma-4-26b-a4b funciona con el crédito gratuito. Para el modelo del plan ilimitado, use broadnet/deepseek-v4.1-flash y configure max_tokens en 1,000 o más, porque su razonamiento cuenta para ese límite. Por qué las respuestas llegan vacías.
3. Reciba los tokens en streaming
const stream = await client.chat.completions.create({
model: "broadnet/deepseek-v4.1-flash",
stream: true,
stream_options: { include_usage: true },
messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
if (chunk.usage) console.log("\n", chunk.usage);
}
4. Registre el ID de la solicitud
const { data, request_id } = await client.chat.completions
.create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
.withResponse();
console.log(request_id, data.choices[0].message.content);
El SDK lee request_id del encabezado x-request-id. Las respuestas ya procesadas también lo incluyen como data._request_id.
Guarde ese ID con la hora UTC, la ruta y el código de estado: el soporte de BroadNet los solicita. Códigos de error y cuándo reintentar.
Solución de problemas
- 401. La clave es incorrecta, venció o se agotó la asignación de pago por uso. Si
BROADNET_API_KEYno está definida,apiKeyesundefinedy el SDK recurre aOPENAI_API_KEY, o lanza un error si esa también falta. - 404. Verifique que
baseURLtermine en/v1y que llame achat.completions, no aresponses. Luego revise el ID del modelo, con el prefijobroadnet/. - Un modelo de pago falla en una cuenta nueva. El crédito inicial de $5 cubre BroadNet Gemma 4 VL 26B (
broadnet/gemma-4-26b-a4b) y los dos modelos BroadNet Transcribe. Recargue para usar los demás modelos de chat: DeepSeek V4.1 Flash, GLM 5.3 y Qwen3.8 27B. contentvacío. El razonamiento cuenta paramax_tokens. Súbalo o déjelo sin definir. Por qué las respuestas llegan vacías.- 429. Una clave de pago por uso permite 30 solicitudes por minuto y 4 simultáneas. El SDK reintenta dos veces de forma predeterminada; ajuste
maxRetriesen el cliente. Consulte streaming de chat completions para los streams interrumpidos.
