LibreChat es una aplicación de chat de código abierto que admite servicios compatibles con OpenAI como custom endpoints (endpoints personalizados). Se definen en librechat.yaml, las claves se guardan en .env y, en Docker, el archivo YAML se monta en el contenedor. BroadRouter es el sitio de la propia BroadNet; los pasos siguen la guía de endpoints personalizados de LibreChat.
Configuración
- Monte librechat.yaml (solo en Docker). Copie
docker-compose.override.yml.exampleadocker-compose.override.ymly asegúrese de que el volumen esté activo:
services:
api:
volumes:
- type: bind
source: ./librechat.yaml
target: /app/librechat.yaml
- Agregue el endpoint a
librechat.yamlen la raíz del proyecto, dentro deendpoints.custom:
endpoints:
custom:
- name: 'BroadNet'
apiKey: '${BROADNET_API_KEY}'
baseURL: 'https://inference.broadnet.ai/v1'
models:
default:
- 'broadnet/glm-5.3'
- 'broadnet/qwen3.8-27b'
- 'broadnet/deepseek-v4.1-flash'
- 'broadnet/gemma-4-26b-a4b'
fetch: false
titleConvo: true
titleModel: 'broadnet/gemma-4-26b-a4b'
modelDisplayLabel: 'BroadNet'
Conserve las claves de nivel superior que su archivo ya tenga, como version.
- Defina la clave en
.env:
BROADNET_API_KEY=your-broadnet-key
- Reinicie LibreChat. Con Docker:
docker compose down && docker compose up -d. En una instalación local, reinicie connpm run backend. BroadNet aparecerá entonces en el selector de endpoints.
Notas sobre los campos
- baseURL. LibreChat agrega
/chat/completionspor su cuenta, así que use la raíz/v1de arriba. No configuredirectEndpoint: true; esa opción es para una baseURL que ya es la URL completa de completions. - fetch: false. Es el valor predeterminado de LibreChat; lo configuramos para que la elección quede a la vista. La documentación de BroadNet describe
GET /v1/modelscomo metadatos públicos del catálogo para monitores, así que listar los modelos endefaultes más predecible. - titleModel. LibreChat escribe un título para cada chat con una solicitud adicional. Un modelo pequeño y económico sin razonamiento mantiene corta esa llamada. La documentación de BroadNet no indica razonamiento para Gemma 4 VL 26B.
- user_provided. Configure
apiKey: 'user_provided'si cada usuario debe ingresar su propia clave de BroadNet en la interfaz. LibreChat guarda cifrada la clave de cada usuario y la pide la primera vez que elige el endpoint. - Nombre único. Un segundo endpoint con el mismo nombre, sin distinguir mayúsculas de minúsculas, reemplaza al primero sin avisar. Si ya tiene una entrada llamada BroadNet, cambie el nombre de una de ellas.
- Sin claves literales. La documentación de LibreChat recomienda la referencia
${VAR}en lugar de una clave escrita enlibrechat.yaml, donde quedaría en texto plano.
Qué modelo elegir
| Uso | Modelo |
|---|---|
| Chat predeterminado, herramientas, JSON | GLM 5.3 |
| Imágenes y árabe | Qwen3.8 27B |
| Documentos largos, contexto de 1M | DeepSeek V4.1 Flash |
| Títulos y respuestas rápidas | BroadNet Gemma 4 VL 26B |
De estos modelos, solo Gemma 4 VL 26B funciona con el crédito inicial de $5, que también cubre los dos modelos Transcribe. Compare precios en la página de precios.
Solución de problemas
- El endpoint no aparece. Verifique que
name,baseURL,apiKeyymodels.defaultestén bien escritos y con sangría dentro deendpoints.custom. LibreChat descarta las entradas incompletas sin ninguna línea en el log. En Docker, confirme que el bind mount no esté comentado endocker-compose.override.yml. - “Missing API Key for BroadNet”.
BROADNET_API_KEYno está en.env, o no se reinició LibreChat. El endpoint sigue apareciendo; el error se muestra solo al enviar un mensaje. - 401 del proveedor. La clave es incorrecta, venció o se agotó el saldo de pago por uso.
- Errores de modelo. Cada ID debe coincidir exactamente con el de BroadNet, con el prefijo
broadnet/. GLM 5.3, Qwen3.8 27B y DeepSeek V4.1 Flash requieren una recarga. - Respuestas vacías. DeepSeek V4.1 Flash, GLM 5.3 y Qwen3.8 27B razonan primero, y el razonamiento cuenta para
max_tokens. Si configuró una salida máxima pequeña en los parámetros de LibreChat, auméntela. Por qué las respuestas llegan vacías. - 429 con muchos usuarios. Una clave de pago por uso permite 30 solicitudes por minuto y 4 a la vez, compartidas por todos los que usan el endpoint. Las solicitudes de títulos también cuentan. Las claves
user_providedreparten la carga. Consulte errores y reintentos. - Claves de plan. Una sesión de plan ilimitado ejecuta una solicitud a la vez y no se puede compartir, así que no encaja en un LibreChat multiusuario.
