LibreChat — open-source чат-приложение, которое подключает OpenAI-совместимые сервисы как custom endpoints (пользовательские эндпоинты). Они описываются в librechat.yaml, ключи хранятся в .env, а в Docker YAML-файл монтируется в контейнер. BroadRouter — собственный сайт BroadNet; шаги ниже следуют руководству LibreChat по custom endpoints.
Настройка
- Смонтируйте librechat.yaml (только для Docker). Скопируйте
docker-compose.override.yml.exampleвdocker-compose.override.ymlи убедитесь, что volume активен:
services:
api:
volumes:
- type: bind
source: ./librechat.yaml
target: /app/librechat.yaml
- Добавьте эндпоинт в
librechat.yamlв корне проекта, в разделendpoints.custom:
endpoints:
custom:
- name: 'BroadNet'
apiKey: '${BROADNET_API_KEY}'
baseURL: 'https://inference.broadnet.ai/v1'
models:
default:
- 'broadnet/glm-5.3'
- 'broadnet/qwen3.8-27b'
- 'broadnet/deepseek-v4.1-flash'
- 'broadnet/gemma-4-26b-a4b'
fetch: false
titleConvo: true
titleModel: 'broadnet/gemma-4-26b-a4b'
modelDisplayLabel: 'BroadNet'
Ключи верхнего уровня, которые уже есть в файле (например, version), оставьте.
- Задайте ключ в
.env:
BROADNET_API_KEY=your-broadnet-key
- Перезапустите LibreChat. В Docker:
docker compose down && docker compose up -d. При локальной установке перезапустите черезnpm run backend. После этого BroadNet появится в списке эндпоинтов.
Пояснения к полям
- baseURL. LibreChat сам добавляет
/chat/completions, поэтому укажите корень/v1, как выше. Не задавайтеdirectEndpoint: true: этот параметр нужен, когда baseURL уже является полным адресом completions. - fetch: false. Это значение по умолчанию в LibreChat; мы указали его явно, чтобы выбор был виден. Документация BroadNet описывает
GET /v1/modelsкак публичные метаданные каталога для мониторинга, так что перечислить модели вdefaultнадёжнее. - titleModel. LibreChat придумывает заголовок для каждого чата отдельным запросом. Небольшая недорогая модель без рассуждений делает этот вызов коротким. Документация BroadNet не указывает рассуждения для Gemma 4 VL 26B.
- user_provided. Задайте
apiKey: 'user_provided', если каждый пользователь должен вводить свой ключ BroadNet в интерфейсе. LibreChat хранит ключ каждого пользователя в зашифрованном виде и запрашивает его при первом выборе эндпоинта. - Уникальное имя. Второй эндпоинт с тем же именем (без учёта регистра) молча заменяет первый. Если у вас уже есть запись с именем BroadNet, переименуйте одну из них.
- Без ключей открытым текстом. Документация LibreChat рекомендует ссылку
${VAR}, а не ключ, вписанный прямо вlibrechat.yaml: там он лежал бы открытым текстом.
Какую модель выбрать
| Задача | Модель |
|---|---|
| Чат по умолчанию, инструменты, JSON | GLM 5.3 |
| Изображения и арабский | Qwen3.8 27B |
| Длинные документы, контекст 1M | DeepSeek V4.1 Flash |
| Заголовки и быстрые ответы | BroadNet Gemma 4 VL 26B |
Из этих моделей только Gemma 4 VL 26B работает на стартовом гранте $5, который также покрывает две модели Transcribe. Сравните цены на странице цен.
Решение проблем
- Эндпоинт не появляется. Проверьте, что
name,baseURL,apiKeyиmodels.defaultнаписаны правильно и вложены вendpoints.customс нужным отступом. LibreChat отбрасывает неполные записи, ничего не записывая в лог. В Docker убедитесь, что bind mount вdocker-compose.override.ymlраскомментирован. - «Missing API Key for BroadNet».
BROADNET_API_KEYнет в.env, или LibreChat не перезапускали. Эндпоинт при этом виден, а ошибка появляется только при отправке сообщения. - 401 от провайдера. Ключ неверный, истёк, или лимит оплаты по факту исчерпан.
- Ошибки модели. Каждый ID должен точно совпадать с ID BroadNet, с префиксом
broadnet/. Для GLM 5.3, Qwen3.8 27B и DeepSeek V4.1 Flash нужно пополнить баланс. - Пустые ответы. DeepSeek V4.1 Flash, GLM 5.3 и Qwen3.8 27B сначала рассуждают, а рассуждения учитываются в
max_tokens. Если в параметрах LibreChat задан маленький лимит вывода, увеличьте его. Почему ответы приходят пустыми. - 429 при большом числе пользователей. Один ключ с оплатой по факту допускает 30 запросов в минуту и 4 одновременно — на всех пользователей эндпоинта. Запросы заголовков тоже считаются. Ключи
user_providedраспределяют нагрузку. См. ошибки и повторные запросы. - Ключи тарифа. Сессия безлимитного тарифа обрабатывает один запрос за раз и не делится между пользователями, поэтому для многопользовательского LibreChat она не подходит.
