---
title: "SillyTavern: свой OpenAI-совместимый эндпоинт | BroadRouter"
description: "Как подключить SillyTavern к BroadNet Inference через источник Custom (OpenAI-compatible): нужные ID моделей, постобработка промпта и лимиты токенов."
url: https://broadrouter.com/ru/guides/sillytavern-custom-openai-endpoint/
lang: ru
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Переведено с английского с помощью ИИ. [Читать оригинал на английском](https://broadrouter.com/guides/sillytavern-custom-openai-endpoint/) (обновлён 2026-11-16).

# SillyTavern и BroadNet Inference: Custom (OpenAI-compatible)

Обновлено 2026-11-16

В панели API Connections в SillyTavern выберите Chat Completion, а в Chat Completion Source — Custom (OpenAI-compatible). В Custom Endpoint укажите https://inference.broadnet.ai/v1, вставьте ключ BroadNet, впишите ID модели, например broadnet/qwen3.8-27b, в поле Enter a Model ID, нажмите Connect, затем Test Message. Max Response Length задайте от 1000 токенов.

SillyTavern — чат-интерфейс с открытым исходным кодом, популярный для общения с персонажами и ролевых игр. Его источник **Custom (OpenAI-compatible)** подключает тип API Chat Completion к любому серверу с общей схемой OpenAI. BroadNet Inference отдаёт стандартные chat completions по адресу `https://inference.broadnet.ai/v1`. BroadRouter — собственный сайт BroadNet; шаги повторяют [документацию SillyTavern](https://docs.sillytavern.app/usage/api-connections/openai/) и её релиз 1.19.0.

## Настройка

1.  **Получите ключ.** Создайте ключ с оплатой по факту в консоли BroadNet, купите почасовой ключ или [безлимитный тариф](https://broadrouter.com/ru/guides/unlimited-llm-api-sessions/).
    
2.  Откройте панель **API Connections**.
    
3.  В **API** выберите **Chat Completion**.
    
4.  В **Chat Completion Source** выберите **Custom (OpenAI-compatible)**.
    
5.  Заполните форму:
    
    | Поле | Значение |
    | --- | --- |
    | Custom Endpoint (Base URL) | `https://inference.broadnet.ai/v1` |
    | Custom API Key | ваш ключ BroadNet |
    | Enter a Model ID | `broadnet/qwen3.8-27b` |
    
6.  Нажмите **Connect**.
    
7.  **Проверьте.** Нажмите **Test Message**. SillyTavern отправит модели простой промпт; если пришёл ответ, подключение работает.
    

Не добавляйте к URL `/chat/completions`. В форме SillyTavern сказано, что этот суффикс добавляется автоматически.

Впишите ID модели вручную, а не выбирайте его из **Available Models**. Этот список берётся из `/v1/models`, который документация BroadNet описывает как метаданные каталога для мониторинга. Когда мы проверяли его 15 ноября 2026 года, там были только две модели транскрибации, а они не умеют вести чат.

## Какую модель выбрать

| Модель | ID | Контекст | Примечания |
| --- | --- | --- | --- |
| DeepSeek V4.1 Flash | `broadnet/deepseek-v4.1-flash` | 1 048 576 | Долгие чаты; модель безлимитных тарифов |
| Qwen3.8 27B | `broadnet/qwen3.8-27b` | 262 144 | Изображения; BroadNet тестировал на арабском |
| GLM 5.3 | `broadnet/glm-5.3` | 1 048 576 | Только текст; инструменты |
| BroadNet Gemma 4 VL 26B | `broadnet/gemma-4-26b-a4b` | 32 768 | Работает на бесплатном гранте $5 и почасовом ключе |

Безлимитный тариф удобен для долгих сессий, потому что вы не платите за токены: час Meteor стоит $1, неделя Orbit — $15, месяц Full Moon — $60. Каждая сессия тарифа обрабатывает один запрос за раз.

## Какие настройки стоит изменить

-   **Max Response Length (tokens).** DeepSeek V4.1 Flash, GLM 5.3 и Qwen3.8 27B рассуждают перед ответом, и рассуждения учитываются в этом лимите. Задайте 1000 или больше, иначе ответы могут приходить пустыми.
-   **Context Size (tokens).** Укажите значение для модели из таблицы. Из BroadNet SillyTavern его прочитать не может.
-   **Prompt Post-Processing.** Если модель отклоняет промпт из-за нескольких системных сообщений или порядка ролей, сначала попробуйте **Merge consecutive roles**, затем **Semi-strict**. Документация SillyTavern отмечает, что эти варианты отбрасывают вызовы инструментов, если не выбрать вариант «with tools».
-   **Bypass status check.** Если SillyTavern предупреждает, что API не работает, а Test Message проходит, поставьте эту галочку.

## Решение проблем

-   **401.** Ключ неверен, истёк или на нём закончился лимит. Вставьте его снова и нажмите Connect.
-   **404 или “model not found”.** URL должен заканчиваться на `/v1`, а ID — содержать префикс `broadnet/`. Для платных моделей нужно пополнить баланс; грант $5 покрывает только `broadnet/gemma-4-26b-a4b`.
-   **Пустые ответы.** Увеличьте длину ответа. [Почему ответы приходят пустыми](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/).
-   **429.** Ключ с оплатой по факту допускает 30 запросов в минуту и 4 одновременно выполняемых, а почасовой ключ и сессии тарифа обрабатывают один поток. См. [ошибки и повторные запросы](https://broadrouter.com/ru/guides/errors-and-retries/).

## Термины в этом руководстве

[Токен (token)](https://broadrouter.com/ru/glossary/token/)

Токен — это единица текста, которую языковая модель читает и пишет: слово, часть слова, знак препинания или последовательность байтов, которую выдаёт токенизатор модели. LLM API считают, ограничивают и обычно тарифицируют использование в токенах.

[Базовый URL (base URL)](https://broadrouter.com/ru/glossary/base-url/)

Базовый URL — это фиксированный корневой адрес API, например https://api.example.com/v1, который клиент подставляет перед каждым путём эндпоинта, например /chat/completions. В OpenAI-совместимых SDK смена базового URL вместе с API-ключом и ID модели направляет тот же код к другому провайдеру.

[Контекстное окно (context window)](https://broadrouter.com/ru/glossary/context-window/)

Контекстное окно — это максимальное число токенов, с которым языковая модель может работать в одном запросе. В него входят промпт, история диалога, описания инструментов, изображения и сгенерированный ответ, включая токены рассуждений. Всё, что не помещается, приходится обрезать, сжимать в краткое изложение или делить на несколько запросов.

[Лимит запросов (rate limit)](https://broadrouter.com/ru/glossary/rate-limit/)

Лимит запросов (rate limit) — это ограничение, которое API накладывает на объём использования клиентом за отрезок времени, например число запросов или токенов в минуту. Запросы сверх лимита отклоняются, обычно с HTTP 429 Too Many Requests, пока использование снова не опустится ниже порога.

[Оплата по факту (pay-as-you-go)](https://broadrouter.com/ru/glossary/pay-as-you-go/)

Оплата по факту (pay-as-you-go) — это модель ценообразования, при которой вы платите только за то, что использовали, по счётчику в единицах вроде токенов, запросов или минут аудио, без подписки и минимальных обязательств. Так тарифицирует большинство LLM API — с предоплаченного баланса или по периодическому счёту.

[Параллельность (concurrency)](https://broadrouter.com/ru/glossary/concurrency/)

Параллельность (concurrency) — это число запросов, которые клиент одновременно держит в работе. LLM API часто ограничивают её на ключ или тариф отдельно от лимита запросов в минуту, потому что каждый открытый запрос занимает мощности GPU, пока ответ не будет готов.

[Вызов инструментов (tool calling)](https://broadrouter.com/ru/glossary/tool-calling/)

Вызов инструментов (function calling) — это функция LLM API, при которой модель возвращает структурированный запрос на выполнение функции, заданной разработчиком, с аргументами в JSON. Приложение выполняет функцию и отправляет результат обратно; сама модель код никогда не выполняет.

[API-ключ (API key)](https://broadrouter.com/ru/glossary/api-key/)

API-ключ — это секретная строка, которая идентифицирует и авторизует клиента, вызывающего API. LLM API обычно ожидают его в заголовке Authorization: Bearer, и любой, у кого есть ключ, может отправлять запросы, оплачиваемые аккаунтом владельца ключа.

## Вопросы и ответы

### Почему список Available Models для BroadNet неверный или пустой?

SillyTavern заполняет его из /v1/models. Когда мы проверяли 15 ноября 2026 года, публичный /v1/models BroadNet показывал только две модели транскрибации. Вместо этого впишите ID чат-модели в Enter a Model ID.

### Какая модель BroadNet лучше для долгих ролевых чатов?

У DeepSeek V4.1 Flash контекст 1 048 576 токенов, и это модель безлимитных тарифов BroadNet с фиксированной ценой. Qwen3.8 27B — та модель, которую BroadNet тестировал на арабском, включая диалекты Залива и египетский.

### Почему в SillyTavern приходят пустые ответы?

Чат-модели BroadNet, кроме Gemma 4 VL 26B, рассуждают перед ответом, и рассуждения учитываются в max\_tokens. Этот лимит задаёт Max Response Length в SillyTavern, поэтому увеличьте его до 1000 токенов или больше.

### Есть ли правила по содержанию?

Да. Политика допустимого использования BroadNet распространяется на всё, что отправляется через API, и её запрет на сексуальный контент с участием несовершеннолетних прямо охватывает вымышленный и синтетический контент.

## Похожие руководства

-   [Jan и BroadNet Inference: свой OpenAI-совместимый провайдер](https://broadrouter.com/ru/guides/jan-custom-endpoint/)
-   [Как подключить Open WebUI к BroadNet Inference](https://broadrouter.com/ru/guides/open-webui-openai-api/)
-   [Почему рассуждающая модель возвращает пустой ответ](https://broadrouter.com/ru/guides/reasoning-tokens-empty-response/)
-   [Коды ошибок BroadNet Inference и когда повторять запрос](https://broadrouter.com/ru/guides/errors-and-retries/)
-   [Все инструменты, которые работают с BroadNet Inference (на английском)](https://broadrouter.com/integrations/): SDK, агенты для программирования, чат-интерфейсы и инструменты автоматизации с точными настройками для каждого

Проверьте на своей реальной нагрузке. Новые аккаунты получают стартовый грант US$5 на Gemma и распознавание речи. Для DeepSeek, GLM и Qwen3.8 нужно пополнить баланс.

[Начать](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-guides-sillytavern-custom-openai-endpoint&utm_content=page-cta) ·

**Источники**

-   [Документация SillyTavern: подключения Chat Completions API, Custom OpenAI-compatible endpoint (дата обращения 2026-11-15)](https://docs.sillytavern.app/usage/api-connections/openai/)
-   [Исходный код SillyTavern: форма Custom endpoint в public/index.html, ветка release (дата обращения 2026-11-15)](https://github.com/SillyTavern/SillyTavern/blob/release/public/index.html)
-   [Релиз SillyTavern 1.19.0 на GitHub, опубликован 2026-09-14, последний релиз (дата обращения 2026-11-16)](https://github.com/SillyTavern/SillyTavern/releases/tag/1.19.0)
-   [Политика допустимого использования BroadNet (дата обращения 2026-11-15) (на английском)](https://www.broadnet.ai/aup)
-   [Справочник API BroadNet Inference (дата обращения 2026-11-15) (на английском)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-guides-sillytavern-custom-openai-endpoint&utm_content=sources)
