BroadRouter
Começar

Como usar o SDK Node.js da OpenAI com a BroadNet Inference

Atualizado em

Instale o pacote npm openai e crie o client com baseURL definida como https://inference.broadnet.ai/v1 e apiKey com a sua chave da BroadNet. O código chat.completions que você já tem continua funcionando; mude só o ID do modelo, por exemplo broadnet/deepseek-v4.1-flash. A BroadNet oferece chat completions, não a Responses API, então continue usando client.chat.completions.create.

Você precisa de uma chave de inferência da sua conta na BroadNet Inference. Contas novas começam com $5 de crédito e sem cartão. Se você usa Python, veja o guia do SDK Python.

1. Instale e defina a chave

O pacote openai atual (7.x) exige Node.js 22 ou mais recente.

npm install openai
export BROADNET_API_KEY='paste-the-key-once'

2. Primeira requisição

Salve como first-request.mjs e rode node first-request.mjs:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

const response = await client.chat.completions.create({
  model: "broadnet/gemma-4-26b-a4b",
  messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);

broadnet/gemma-4-26b-a4b funciona com o crédito gratuito. Para o modelo dos planos ilimitados, use broadnet/deepseek-v4.1-flash e defina max_tokens como 1.000 ou mais, porque o raciocínio dele conta para o limite. Por que as respostas vêm vazias.

3. Streaming de tokens

const stream = await client.chat.completions.create({
  model: "broadnet/deepseek-v4.1-flash",
  stream: true,
  stream_options: { include_usage: true },
  messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
  if (chunk.usage) console.log("\n", chunk.usage);
}

4. Registre o ID da requisição

const { data, request_id } = await client.chat.completions
  .create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
  .withResponse();
console.log(request_id, data.choices[0].message.content);

O SDK lê request_id do cabeçalho x-request-id. As respostas já interpretadas também o trazem como data._request_id.

Guarde esse ID junto com o horário UTC, a rota e o status: o suporte da BroadNet pede essas informações. Códigos de erro e quando tentar de novo.

Solução de problemas

  • 401. A chave está errada, expirou ou ficou sem cota de pagamento por uso. Se BROADNET_API_KEY não estiver definida, apiKey fica undefined e o SDK recorre a OPENAI_API_KEY, ou lança um erro se ela também estiver faltando.
  • 404. Confira se baseURL termina em /v1 e se você chama chat.completions, não responses. Depois confira o ID do modelo, com o prefixo broadnet/.
  • Modelo pago falha em uma conta nova. O crédito inicial de $5 cobre o BroadNet Gemma 4 VL 26B (broadnet/gemma-4-26b-a4b) e os dois modelos BroadNet Transcribe. Faça uma recarga para usar os outros modelos de chat: DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B.
  • content vazio. O raciocínio conta para max_tokens. Aumente o valor ou deixe-o sem definir. Por que as respostas vêm vazias.
  • 429. Uma chave de pagamento por uso permite 30 requisições por minuto e 4 ao mesmo tempo. Por padrão, o SDK tenta de novo duas vezes; ajuste maxRetries no client. Para streams interrompidos, veja streaming de chat completions.

Perguntas frequentes

Dá para definir a base URL da BroadNet com uma variável de ambiente no Node?

Sim. O SDK lê OPENAI_BASE_URL quando você não passa baseURL, e OPENAI_API_KEY quando você não passa apiKey. Passar os dois de forma explícita evita mandar, por engano, uma chave da BroadNet para a OpenAI, ou o contrário.

client.responses.create funciona com a BroadNet?

Não. A documentação da BroadNet lista apenas chat completions e audio transcriptions. Para chat, use client.chat.completions.create.

Qual versão do Node.js o pacote openai exige?

A versão 7.x atual declara Node.js 22 ou mais recente. Deno, Bun, Cloudflare Workers e Vercel Edge também são suportados.

Posso chamar a BroadNet pelo navegador com o SDK Node?

Não faça isso. O SDK bloqueia o uso no navegador a menos que você defina dangerouslyAllowBrowser, porque a chave iria para todos os visitantes. Chame a BroadNet a partir do seu servidor.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity