Você precisa de uma chave de inferência da sua conta na BroadNet Inference. Contas novas começam com $5 de crédito e sem cartão. Se você usa Python, veja o guia do SDK Python.
1. Instale e defina a chave
O pacote openai atual (7.x) exige Node.js 22 ou mais recente.
npm install openai
export BROADNET_API_KEY='paste-the-key-once'
2. Primeira requisição
Salve como first-request.mjs e rode node first-request.mjs:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
const response = await client.chat.completions.create({
model: "broadnet/gemma-4-26b-a4b",
messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);
broadnet/gemma-4-26b-a4b funciona com o crédito gratuito. Para o modelo dos planos ilimitados, use broadnet/deepseek-v4.1-flash e defina max_tokens como 1.000 ou mais, porque o raciocínio dele conta para o limite. Por que as respostas vêm vazias.
3. Streaming de tokens
const stream = await client.chat.completions.create({
model: "broadnet/deepseek-v4.1-flash",
stream: true,
stream_options: { include_usage: true },
messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
if (chunk.usage) console.log("\n", chunk.usage);
}
4. Registre o ID da requisição
const { data, request_id } = await client.chat.completions
.create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
.withResponse();
console.log(request_id, data.choices[0].message.content);
O SDK lê request_id do cabeçalho x-request-id. As respostas já interpretadas também o trazem como data._request_id.
Guarde esse ID junto com o horário UTC, a rota e o status: o suporte da BroadNet pede essas informações. Códigos de erro e quando tentar de novo.
Solução de problemas
- 401. A chave está errada, expirou ou ficou sem cota de pagamento por uso. Se
BROADNET_API_KEYnão estiver definida,apiKeyficaundefinede o SDK recorre aOPENAI_API_KEY, ou lança um erro se ela também estiver faltando. - 404. Confira se
baseURLtermina em/v1e se você chamachat.completions, nãoresponses. Depois confira o ID do modelo, com o prefixobroadnet/. - Modelo pago falha em uma conta nova. O crédito inicial de $5 cobre o BroadNet Gemma 4 VL 26B (
broadnet/gemma-4-26b-a4b) e os dois modelos BroadNet Transcribe. Faça uma recarga para usar os outros modelos de chat: DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B. contentvazio. O raciocínio conta paramax_tokens. Aumente o valor ou deixe-o sem definir. Por que as respostas vêm vazias.- 429. Uma chave de pagamento por uso permite 30 requisições por minuto e 4 ao mesmo tempo. Por padrão, o SDK tenta de novo duas vezes; ajuste
maxRetriesno client. Para streams interrompidos, veja streaming de chat completions.
