BroadRouter

Adicionar a BroadNet Inference ao LibreChat como custom endpoint

Atualizado em

No librechat.yaml, adicione em endpoints.custom uma entrada com name BroadNet, apiKey apontando para uma variável de ambiente como BROADNET_API_KEY, baseURL https://inference.broadnet.ai/v1 e models.default com IDs da BroadNet como broadnet/glm-5.3. Coloque a chave no .env, monte o arquivo no container se usar Docker e reinicie o LibreChat. O LibreChat adiciona /chat/completions ao base URL sozinho.

O LibreChat é um app de chat open source que aceita serviços compatíveis com a OpenAI como custom endpoints. Você os define no librechat.yaml, guarda as chaves no .env e, no Docker, monta o arquivo YAML no container. O BroadRouter é o site da própria BroadNet; os passos seguem o guia de custom endpoints do LibreChat.

Configuração

  1. Monte o librechat.yaml (só Docker). Copie docker-compose.override.yml.example para docker-compose.override.yml e confira se o volume está ativo:
services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml
  1. Adicione o endpoint ao librechat.yaml na raiz do projeto, em endpoints.custom:
endpoints:
  custom:
    - name: 'BroadNet'
      apiKey: '${BROADNET_API_KEY}'
      baseURL: 'https://inference.broadnet.ai/v1'
      models:
        default:
          - 'broadnet/glm-5.3'
          - 'broadnet/qwen3.8-27b'
          - 'broadnet/deepseek-v4.1-flash'
          - 'broadnet/gemma-4-26b-a4b'
        fetch: false
      titleConvo: true
      titleModel: 'broadnet/gemma-4-26b-a4b'
      modelDisplayLabel: 'BroadNet'

Mantenha as chaves de nível superior que o seu arquivo já tem, como version.

  1. Defina a chave no .env:
BROADNET_API_KEY=your-broadnet-key
  1. Reinicie o LibreChat. Com Docker: docker compose down && docker compose up -d. Em uma instalação local, reinicie com npm run backend. A BroadNet aparece então no seletor de endpoints.

Observações sobre os campos

  • baseURL. O LibreChat adiciona /chat/completions sozinho, então use a raiz /v1 acima. Não defina directEndpoint: true; essa opção é para um baseURL que já é a URL completa de completions.
  • fetch: false. É o padrão do LibreChat; definimos para deixar a escolha visível. A documentação da BroadNet descreve GET /v1/models como metadados públicos de catálogo para monitoramento, então listar os modelos em default é mais previsível.
  • titleModel. O LibreChat escreve um título para cada chat com uma requisição extra. Um modelo pequeno, barato e sem raciocínio deixa essa chamada curta. A documentação da BroadNet não lista raciocínio para o Gemma 4 VL 26B.
  • user_provided. Defina apiKey: 'user_provided' se cada usuário deve informar a própria chave da BroadNet na interface. O LibreChat guarda a chave de cada usuário criptografada e a pede na primeira vez que o usuário escolhe o endpoint.
  • Nome único. Um segundo endpoint com o mesmo nome, sem diferenciar maiúsculas e minúsculas, substitui o primeiro sem aviso. Se você já tem uma entrada chamada BroadNet, renomeie uma delas.
  • Nada de chave literal. A documentação do LibreChat recomenda a referência ${VAR} em vez de uma chave digitada no librechat.yaml, onde ficaria no arquivo em texto puro.

Qual modelo escolher

Uso Modelo
Chat padrão, ferramentas, JSON GLM 5.3
Imagens e árabe Qwen3.8 27B
Documentos longos, contexto de 1M DeepSeek V4.1 Flash
Títulos e respostas rápidas BroadNet Gemma 4 VL 26B

Destes modelos, só o Gemma 4 VL 26B roda com o crédito inicial de $5, que também cobre os dois modelos Transcribe. Compare os preços na página de preços.

Solução de problemas

  • O endpoint não aparece. Confira se name, baseURL, apiKey e models.default estão escritos corretamente e indentados dentro de endpoints.custom. O LibreChat descarta entradas incompletas sem linha de log. No Docker, confirme que o bind mount não está comentado no docker-compose.override.yml.
  • “Missing API Key for BroadNet” (tradução: chave de API ausente para a BroadNet). BROADNET_API_KEY não está no .env, ou o LibreChat não foi reiniciado. O endpoint continua aparecendo; o erro só surge quando você envia uma mensagem.
  • 401 do provedor. A chave está errada, expirou ou a cota de pagamento por uso acabou.
  • Erros de modelo. Cada ID precisa bater exatamente com o da BroadNet, com o prefixo broadnet/. GLM 5.3, Qwen3.8 27B e DeepSeek V4.1 Flash exigem uma recarga.
  • Respostas vazias. DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B raciocinam primeiro, e o raciocínio conta para max_tokens. Se você definiu uma saída máxima baixa nos parâmetros do LibreChat, aumente-a. Por que as respostas vêm vazias.
  • 429 com muitos usuários. Uma chave de pagamento por uso permite 30 requisições por minuto e 4 ao mesmo tempo, divididas entre todos que usam o endpoint. As requisições de título também contam. Chaves user_provided distribuem a carga. Veja erros e novas tentativas.
  • Chaves de plano. Uma sessão de plano ilimitado roda uma requisição de cada vez e não pode ser compartilhada, então não serve para um LibreChat com vários usuários.

Perguntas frequentes

Por que o meu endpoint da BroadNet não aparece no LibreChat?

O LibreChat descarta um custom endpoint sem erro nem linha de log se name, baseURL, apiKey ou models.default estiver faltando ou com erro de digitação. No Docker, confira também se o librechat.yaml está montado em /app/librechat.yaml e se você reiniciou.

Cada usuário pode usar a própria chave da BroadNet?

Sim. Defina apiKey como user_provided. O LibreChat então pede a chave a cada usuário na primeira vez que ele escolhe o endpoint e a guarda criptografada.

Por que o LibreChat mostra "Missing API Key for BroadNet"?

A variável referenciada em apiKey não está definida no .env. O endpoint continua aparecendo no seletor, e o erro só surge quando você envia uma mensagem. Adicione a variável e reinicie o LibreChat.

O baseURL do LibreChat deve incluir /chat/completions?

Não. Por padrão, o LibreChat adiciona /chat/completions ao baseURL. Use https://inference.broadnet.ai/v1. Só defina directEndpoint como true quando a URL informada já for o endpoint completo de completions.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity