BroadRouter
Comenzar

Usar el SDK de OpenAI para Node.js con BroadNet Inference

Actualizado

Instale el paquete npm openai y cree el cliente con baseURL en https://inference.broadnet.ai/v1 y apiKey con su clave de BroadNet. Su código actual de chat.completions sigue funcionando; cambie solo el ID del modelo, por ejemplo broadnet/deepseek-v4.1-flash. BroadNet ofrece chat completions, no la Responses API, así que siga usando client.chat.completions.create.

Necesita una clave de inferencia de su cuenta de BroadNet Inference. Las cuentas nuevas empiezan con $5 de crédito y sin tarjeta. Si usa Python, consulte la guía del SDK para Python.

1. Instale el paquete y configure la clave

El paquete openai actual (7.x) requiere Node.js 22 o posterior.

npm install openai
export BROADNET_API_KEY='paste-the-key-once'

2. Primera solicitud

Guárdelo como first-request.mjs y ejecute node first-request.mjs:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

const response = await client.chat.completions.create({
  model: "broadnet/gemma-4-26b-a4b",
  messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);

broadnet/gemma-4-26b-a4b funciona con el crédito gratuito. Para el modelo del plan ilimitado, use broadnet/deepseek-v4.1-flash y configure max_tokens en 1,000 o más, porque su razonamiento cuenta para ese límite. Por qué las respuestas llegan vacías.

3. Reciba los tokens en streaming

const stream = await client.chat.completions.create({
  model: "broadnet/deepseek-v4.1-flash",
  stream: true,
  stream_options: { include_usage: true },
  messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
  if (chunk.usage) console.log("\n", chunk.usage);
}

4. Registre el ID de la solicitud

const { data, request_id } = await client.chat.completions
  .create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
  .withResponse();
console.log(request_id, data.choices[0].message.content);

El SDK lee request_id del encabezado x-request-id. Las respuestas ya procesadas también lo incluyen como data._request_id.

Guarde ese ID con la hora UTC, la ruta y el código de estado: el soporte de BroadNet los solicita. Códigos de error y cuándo reintentar.

Solución de problemas

  • 401. La clave es incorrecta, venció o se agotó la asignación de pago por uso. Si BROADNET_API_KEY no está definida, apiKey es undefined y el SDK recurre a OPENAI_API_KEY, o lanza un error si esa también falta.
  • 404. Verifique que baseURL termine en /v1 y que llame a chat.completions, no a responses. Luego revise el ID del modelo, con el prefijo broadnet/.
  • Un modelo de pago falla en una cuenta nueva. El crédito inicial de $5 cubre BroadNet Gemma 4 VL 26B (broadnet/gemma-4-26b-a4b) y los dos modelos BroadNet Transcribe. Recargue para usar los demás modelos de chat: DeepSeek V4.1 Flash, GLM 5.3 y Qwen3.8 27B.
  • content vacío. El razonamiento cuenta para max_tokens. Súbalo o déjelo sin definir. Por qué las respuestas llegan vacías.
  • 429. Una clave de pago por uso permite 30 solicitudes por minuto y 4 simultáneas. El SDK reintenta dos veces de forma predeterminada; ajuste maxRetries en el cliente. Consulte streaming de chat completions para los streams interrumpidos.

Preguntas frecuentes

¿Puedo configurar la URL base de BroadNet con una variable de entorno en Node?

Sí. El SDK lee OPENAI_BASE_URL cuando no pasa baseURL, y OPENAI_API_KEY cuando no pasa apiKey. Pasar ambos valores de forma explícita evita enviar por error una clave de BroadNet a OpenAI, o al revés.

¿Funciona client.responses.create con BroadNet?

No. La documentación de BroadNet solo incluye chat completions y transcripciones de audio. Use client.chat.completions.create para el chat.

¿Qué versión de Node.js necesita el paquete openai?

La versión actual 7.x declara Node.js 22 o posterior. También son compatibles Deno, Bun, Cloudflare Workers y Vercel Edge.

¿Puedo llamar a BroadNet desde el navegador con el SDK de Node?

No lo haga. El SDK bloquea el uso en el navegador a menos que configure dangerouslyAllowBrowser, porque la clave llegaría a cada visitante. Llame a BroadNet desde su servidor.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity