BroadRouter

Conectar o SillyTavern à BroadNet Inference (Custom OpenAI-compatible)

Atualizado em

No painel API Connections do SillyTavern, escolha Chat Completion e depois Custom (OpenAI-compatible) como Chat Completion Source. Defina Custom Endpoint como https://inference.broadnet.ai/v1, cole a sua chave da BroadNet, digite um ID de modelo como broadnet/qwen3.8-27b em Enter a Model ID, clique em Connect e depois em Test Message. Defina Max Response Length com 1.000 tokens ou mais.

O SillyTavern é um front-end de chat open source, popular para chat com personagens e roleplay. A fonte Custom (OpenAI-compatible) dele conecta o tipo de API Chat Completion a qualquer servidor com o esquema genérico da OpenAI. A BroadNet Inference oferece chat completions padrão em https://inference.broadnet.ai/v1. O BroadRouter é o site da própria BroadNet; os passos seguem a documentação do SillyTavern e a versão 1.19.0.

Configuração

  1. Consiga uma chave. Crie uma chave de pagamento por uso no console da BroadNet, compre uma chave por hora ou compre um plano ilimitado.

  2. Abra o painel API Connections.

  3. Defina API como Chat Completion.

  4. Defina Chat Completion Source como Custom (OpenAI-compatible).

  5. Preencha o formulário personalizado:

    Campo Valor
    Custom Endpoint (Base URL) https://inference.broadnet.ai/v1
    Custom API Key a sua chave da BroadNet
    Enter a Model ID broadnet/qwen3.8-27b
  6. Clique em Connect.

  7. Teste. Clique em Test Message. O SillyTavern envia um prompt simples ao modelo; se vier uma resposta, a conexão funciona.

Não adicione /chat/completions à URL. O formulário do SillyTavern diz que esse sufixo é adicionado automaticamente.

Digite o ID do modelo em vez de escolher em Available Models. Essa lista vem do /v1/models, que a documentação da BroadNet descreve como metadados do catálogo para monitores. Quando conferimos, em 15 de novembro de 2026, ele listava só os dois modelos de transcrição, que não conversam.

Qual modelo escolher

Modelo ID Contexto Observações
DeepSeek V4.1 Flash broadnet/deepseek-v4.1-flash 1.048.576 Chats longos; o modelo dos planos ilimitados
Qwen3.8 27B broadnet/qwen3.8-27b 262.144 Imagens; testado em árabe pela BroadNet
GLM 5.3 broadnet/glm-5.3 1.048.576 Só texto; ferramentas
BroadNet Gemma 4 VL 26B broadnet/gemma-4-26b-a4b 32.768 Roda com o crédito gratuito de $5 e com a chave por hora

Um plano ilimitado combina com sessões longas porque você não paga por token: uma hora de Meteor custa $1, uma semana de Orbit $15 e um mês de Full Moon $60. Cada sessão do plano roda uma requisição por vez.

Configurações que vale mudar

  • Max Response Length (tokens). DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B raciocinam antes de responder, e o raciocínio conta nesse limite. Defina 1.000 ou mais, ou você pode receber respostas em branco.
  • Context Size (tokens). Use o valor do modelo na tabela. O SillyTavern não consegue ler esse dado da BroadNet.
  • Prompt Post-Processing. Se um modelo rejeitar um prompt por causa de várias mensagens de sistema ou da ordem dos papéis, tente primeiro Merge consecutive roles e depois Semi-strict. A documentação do SillyTavern avisa que essas opções descartam as tool calls, a menos que você escolha a variante “with tools”.
  • Bypass status check. Se o SillyTavern avisar que a API não está funcionando mas o Test Message der certo, marque esta opção.

Solução de problemas

  • 401. A chave está errada, expirou ou ficou sem cota. Cole de novo e clique em Connect.
  • 404 ou “model not found”. A URL precisa terminar em /v1, e o ID precisa incluir o prefixo broadnet/. Os modelos pagos exigem uma recarga; o crédito de $5 cobre só broadnet/gemma-4-26b-a4b e os dois modelos Transcribe.
  • Respostas em branco. Aumente o tamanho da resposta. Por que as respostas vêm vazias.
  • 429. Uma chave de pagamento por uso permite 30 requisições por minuto e 4 em andamento, e a chave por hora e as sessões dos planos rodam um único stream. Veja erros e novas tentativas.

Perguntas frequentes

Por que a lista Available Models vem errada ou vazia com a BroadNet?

O SillyTavern preenche essa lista a partir do /v1/models. Quando conferimos, em 15 de novembro de 2026, o /v1/models público da BroadNet listava só os dois modelos de transcrição. Digite o ID do modelo de chat em Enter a Model ID.

Qual modelo da BroadNet é melhor para roleplay em chats longos?

O DeepSeek V4.1 Flash tem contexto de 1.048.576 tokens e é o modelo dos planos ilimitados de preço fixo da BroadNet. O Qwen3.8 27B é o que a BroadNet testou em árabe, incluindo os dialetos do Golfo e egípcio.

Por que as respostas vêm em branco no SillyTavern?

Os modelos de chat da BroadNet, exceto o Gemma 4 VL 26B, raciocinam antes de responder, e o raciocínio conta no max_tokens. No SillyTavern esse limite é o Max Response Length, então aumente para 1.000 tokens ou mais.

Existem regras de conteúdo?

Sim. A Política de Uso Aceitável da BroadNet vale para tudo o que passa pela API e, na proibição de conteúdo sexual envolvendo menores, cobre explicitamente conteúdo ficcional e sintético.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity