O LibreChat é um app de chat open source que aceita serviços compatíveis com a OpenAI como custom endpoints. Você os define no librechat.yaml, guarda as chaves no .env e, no Docker, monta o arquivo YAML no container. O BroadRouter é o site da própria BroadNet; os passos seguem o guia de custom endpoints do LibreChat.
Configuração
- Monte o librechat.yaml (só Docker). Copie
docker-compose.override.yml.exampleparadocker-compose.override.ymle confira se o volume está ativo:
services:
api:
volumes:
- type: bind
source: ./librechat.yaml
target: /app/librechat.yaml
- Adicione o endpoint ao
librechat.yamlna raiz do projeto, emendpoints.custom:
endpoints:
custom:
- name: 'BroadNet'
apiKey: '${BROADNET_API_KEY}'
baseURL: 'https://inference.broadnet.ai/v1'
models:
default:
- 'broadnet/glm-5.3'
- 'broadnet/qwen3.8-27b'
- 'broadnet/deepseek-v4.1-flash'
- 'broadnet/gemma-4-26b-a4b'
fetch: false
titleConvo: true
titleModel: 'broadnet/gemma-4-26b-a4b'
modelDisplayLabel: 'BroadNet'
Mantenha as chaves de nível superior que o seu arquivo já tem, como version.
- Defina a chave no
.env:
BROADNET_API_KEY=your-broadnet-key
- Reinicie o LibreChat. Com Docker:
docker compose down && docker compose up -d. Em uma instalação local, reinicie comnpm run backend. A BroadNet aparece então no seletor de endpoints.
Observações sobre os campos
- baseURL. O LibreChat adiciona
/chat/completionssozinho, então use a raiz/v1acima. Não definadirectEndpoint: true; essa opção é para um baseURL que já é a URL completa de completions. - fetch: false. É o padrão do LibreChat; definimos para deixar a escolha visível. A documentação da BroadNet descreve
GET /v1/modelscomo metadados públicos de catálogo para monitoramento, então listar os modelos emdefaulté mais previsível. - titleModel. O LibreChat escreve um título para cada chat com uma requisição extra. Um modelo pequeno, barato e sem raciocínio deixa essa chamada curta. A documentação da BroadNet não lista raciocínio para o Gemma 4 VL 26B.
- user_provided. Defina
apiKey: 'user_provided'se cada usuário deve informar a própria chave da BroadNet na interface. O LibreChat guarda a chave de cada usuário criptografada e a pede na primeira vez que o usuário escolhe o endpoint. - Nome único. Um segundo endpoint com o mesmo nome, sem diferenciar maiúsculas e minúsculas, substitui o primeiro sem aviso. Se você já tem uma entrada chamada BroadNet, renomeie uma delas.
- Nada de chave literal. A documentação do LibreChat recomenda a referência
${VAR}em vez de uma chave digitada nolibrechat.yaml, onde ficaria no arquivo em texto puro.
Qual modelo escolher
| Uso | Modelo |
|---|---|
| Chat padrão, ferramentas, JSON | GLM 5.3 |
| Imagens e árabe | Qwen3.8 27B |
| Documentos longos, contexto de 1M | DeepSeek V4.1 Flash |
| Títulos e respostas rápidas | BroadNet Gemma 4 VL 26B |
Destes modelos, só o Gemma 4 VL 26B roda com o crédito inicial de $5, que também cobre os dois modelos Transcribe. Compare os preços na página de preços.
Solução de problemas
- O endpoint não aparece. Confira se
name,baseURL,apiKeyemodels.defaultestão escritos corretamente e indentados dentro deendpoints.custom. O LibreChat descarta entradas incompletas sem linha de log. No Docker, confirme que o bind mount não está comentado nodocker-compose.override.yml. - “Missing API Key for BroadNet” (tradução: chave de API ausente para a BroadNet).
BROADNET_API_KEYnão está no.env, ou o LibreChat não foi reiniciado. O endpoint continua aparecendo; o erro só surge quando você envia uma mensagem. - 401 do provedor. A chave está errada, expirou ou a cota de pagamento por uso acabou.
- Erros de modelo. Cada ID precisa bater exatamente com o da BroadNet, com o prefixo
broadnet/. GLM 5.3, Qwen3.8 27B e DeepSeek V4.1 Flash exigem uma recarga. - Respostas vazias. DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B raciocinam primeiro, e o raciocínio conta para
max_tokens. Se você definiu uma saída máxima baixa nos parâmetros do LibreChat, aumente-a. Por que as respostas vêm vazias. - 429 com muitos usuários. Uma chave de pagamento por uso permite 30 requisições por minuto e 4 ao mesmo tempo, divididas entre todos que usam o endpoint. As requisições de título também contam. Chaves
user_provideddistribuem a carga. Veja erros e novas tentativas. - Chaves de plano. Uma sessão de plano ilimitado roda uma requisição de cada vez e não pode ser compartilhada, então não serve para um LibreChat com vários usuários.
