BroadRouter
Começar

Desenvolvedores

Atualizado em

A BroadNet Inference usa os formatos de requisição da OpenAI em https://inference.broadnet.ai/v1. Crie uma chave no console, guarde-a em uma variável de ambiente e envie uma requisição para /chat/completions ou /audio/transcriptions com um ID de modelo exato. Antes de migrar o tráfego de produção, confira parâmetros, streaming, ferramentas, limites e erros desse modelo.

Como envio minha primeira requisição de chat?

  1. Entre em inference.broadnet.ai (em inglês) e crie uma chave de inferência. Ela aparece uma única vez; o console guarda apenas o hash.
  2. Instale o SDK da OpenAI e defina a chave no terminal. Mantenha as chaves no seu servidor, nunca em código que roda no navegador.
  3. Envie a requisição. Leia a resposta em choices[0].message.content.

setup

python -m pip install openai
export BROADNET_API_KEY='paste-the-key-once'

first_request.py

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
response = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Reply with one short sentence."}],
)
print(response.choices[0].message.content)

O exemplo usa o BroadNet Gemma 4 VL 26B, que o crédito inicial de US$ 5 cobre. DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B exigem uma recarga antes. Guarde o cabeçalho de resposta X-Request-ID para o suporte.

How a request reaches a model
  1. 01Your appKey kept in an environment variable
  2. 02OpenAI SDKTwo settings change

    base_url api_key

  3. 03BroadNet InferenceOpenAI-compatible APIinference.broadnet.ai/v1POST /chat/completions
  4. 04The model you nameSet in every request
    • broadnet/deepseek-v4.1-flash
    • broadnet/glm-5.3
    • broadnet/qwen3.8-27b
    • broadnet/gemma-4-26b-a4byour choice
  5. 05ResponseFrom that model

You choose the model in each request. There is no automatic routing: the request runs on the model ID you sent.

Your app calls the OpenAI SDK with BroadNet’s base URL and your key. The request goes to BroadNet Inference with the model ID you wrote, and that model answers. Nothing picks or switches the model for you.

Streaming

Defina stream=true e leia os Server-Sent Events até data: [DONE]. Com stream_options.include_usage, o uso de tokens chega no último chunk. Se o stream terminar antes do [DONE], considere a resposta incompleta. A BroadNet pede que você verifique o streaming em cada modelo antes de depender dele em produção.

stream.sh

curl -N https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"broadnet/gemma-4-26b-a4b","stream":true,"stream_options":{"include_usage":true},"messages":[{"role":"user","content":"Count from one to three."}]}'

Como transcrevo áudio?

Envie WAV ou MP3, com até 26.214.400 bytes por arquivo, para /audio/transcriptions. Sempre defina language: sem ele, o árabe pode voltar em letras latinas. Use language=ar para árabe. Converta antes os arquivos .ogg ou .m4a: ffmpeg -i voice-note.ogg -ar 16000 -ac 1 voice-note.wav

transcribe.py

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
with open("recording.wav", "rb") as audio:
    result = client.audio.transcriptions.create(
        model="broadnet/cohere-transcribe-arabic",
        file=audio,
        language="ar",
    )
print(result.text)

A resposta é um JSON com a transcrição em text. Modelo árabe ou multilíngue, e quanto custa o áudio.

Quais IDs de modelo posso usar?

Passe o ID exato em model. Não dependa de /v1/models para descobrir os modelos de chat; use esta lista ou a referência (em inglês).

ModeloIDEndpointEntradaDocumentadoAcesso
DeepSeek V4.1 Flashbroadnet/deepseek-v4.1-flash/chat/completionsTexto + ImagemRaciocínioExige recarga
GLM 5.3broadnet/glm-5.3/chat/completionsTextoFerramentas, Saída estruturada, RaciocínioExige recarga
Qwen3.8 27Bbroadnet/qwen3.8-27b/chat/completionsTexto + ImagemFerramentas, Saída estruturada, RaciocínioExige recarga
BroadNet Gemma 4 VL 26Bbroadnet/gemma-4-26b-a4b/chat/completionsTexto + Imagem—Crédito inicial
BroadNet Transcribe Arabicbroadnet/cohere-transcribe-arabic/audio/transcriptionsÁudio em árabe—Crédito inicial
BroadNet Transcribebroadnet/cohere-transcribe/audio/transcriptionsÁudio, 14 idiomas—Crédito inicial

"Documentado" lista as ferramentas, a saída estruturada e o raciocínio que a referência da BroadNet cita para cada modelo (consultada em 2026-11-15). Um traço significa que a referência não os cita; não significa que não existam.

Migrando de outra API compatível com a OpenAI: checklist

Os formatos de requisição são conhecidos, mas os modelos são diferentes. Passe por cada item para o modelo escolhido e teste antes de mudar o tráfego.

  1. Endpoint. Defina a URL base como https://inference.broadnet.ai/v1.
  2. Chave. Use uma chave de inferência da BroadNet a partir de uma variável de ambiente. Chaves de plano e chaves de pagamento por uso são separadas.
  3. ID do modelo. Use o ID exato, por exemplo broadnet/gemma-4-26b-a4b.
  4. Parâmetros. Confira se cada parâmetro que você envia está documentado para esse modelo. Remova os que não aparecem na lista.
  5. Streaming. Confirme que o seu cliente lê o SSE até o [DONE] e trata um stream que termina antes da hora.
  6. Ferramentas e saída estruturada. A referência documenta esses recursos para GLM 5.3 e Qwen3.8 27B. Teste qualquer outro modelo antes de depender deles.
  7. Raciocínio. O raciocínio pode consumir parte do orçamento de saída. Deixe folga em max_tokens; veja respostas vazias de modelos de raciocínio.
  8. Limites. Uma chave de pagamento por uso permite 30 requisições por minuto e 4 simultâneas. Uma sessão de plano permite uma requisição por vez. Uma chave por hora do Gemma permite um stream, 120 requisições por minuto e 300.000 tokens por minuto.
  9. Contexto. O contexto inclui a entrada e a resposta. Confira o limite do modelo na página do modelo.
  10. Erros. Associe os códigos de status abaixo a uma ação de nova tentativa ou de correção, e registre o X-Request-ID.
  11. Custos. Faça a estimativa com as calculadoras de preço. No pagamento por uso, imagens contam como tokens de entrada.

Quais erros devo tentar de novo?

StatusSignificadoAção
400 / 422Requisição ou campo inválidoCorrija a requisição; não repita como está
401Chave ausente, inválida ou expirada, ou cota esgotadaConfira a chave e a conta
402insufficient_balanceRecarregue e tente de novo
413Requisição acima do limite de bytes ou de textoEnvie menos, por exemplo um arquivo de áudio menor
429Limite de taxa, de concorrência, de tokens por minuto ou de gastosAguarde (com limite de tentativas) e tente de novo
500–504Problema no servidorTente de novo com backoff exponencial limitado

Resumido da tabela de erros da referência (em inglês), consultada em 2026-11-15. Exemplos de código para novas tentativas.

Onde estão a documentação completa e os guias?

Precisa de um endpoint privado ou de um modelo que não está na lista? Fale com a BroadNet.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity