BroadRouter

Collegare SillyTavern a BroadNet Inference (Custom OpenAI-compatible)

Aggiornato

Nel pannello API Connections di SillyTavern scegli Chat Completion, poi Custom (OpenAI-compatible) come Chat Completion Source. Imposta Custom Endpoint su https://inference.broadnet.ai/v1, incolla la tua chiave BroadNet, scrivi un ID di modello come broadnet/qwen3.8-27b in Enter a Model ID, clicca Connect e poi Test Message. Imposta Max Response Length ad almeno 1.000 token.

SillyTavern è un front end di chat open source, molto usato per chat con personaggi e roleplay. La sua sorgente Custom (OpenAI-compatible) collega il tipo di API Chat Completion a qualsiasi server con lo schema generico di OpenAI. BroadNet Inference serve chat completions standard su https://inference.broadnet.ai/v1. BroadRouter è il sito di BroadNet; i passaggi seguono la documentazione di SillyTavern e la sua release 1.19.0.

Configurazione

  1. Procurati una chiave. Crea una chiave a consumo nella console di BroadNet, compra una chiave oraria oppure un piano illimitato.

  2. Apri il pannello API Connections.

  3. Imposta API su Chat Completion.

  4. Imposta Chat Completion Source su Custom (OpenAI-compatible).

  5. Compila il modulo personalizzato:

    Campo Valore
    Custom Endpoint (Base URL) https://inference.broadnet.ai/v1
    Custom API Key la tua chiave BroadNet
    Enter a Model ID broadnet/qwen3.8-27b
  6. Clicca Connect.

  7. Provalo. Clicca Test Message. SillyTavern invia un prompt semplice al modello; se arriva una risposta, la connessione funziona.

Non aggiungere /chat/completions all’URL. Il modulo di SillyTavern dice che quel suffisso viene aggiunto in automatico.

Scrivi l’ID del modello invece di sceglierlo da Available Models. Quell’elenco arriva da /v1/models, che la documentazione di BroadNet descrive come metadati del catalogo per i sistemi di monitoraggio. Al nostro controllo del 15 novembre 2026 elencava solo i due modelli di trascrizione, che non possono chattare.

Quale modello scegliere

Modello ID Contesto Note
DeepSeek V4.1 Flash broadnet/deepseek-v4.1-flash 1.048.576 Chat lunghe; il modello dei piani illimitati
Qwen3.8 27B broadnet/qwen3.8-27b 262.144 Immagini; testato in arabo da BroadNet
GLM 5.3 broadnet/glm-5.3 1.048.576 Solo testo; strumenti
BroadNet Gemma 4 VL 26B broadnet/gemma-4-26b-a4b 32.768 Funziona con il credito gratuito di $5 e con la chiave oraria

Un piano illimitato è adatto alle sessioni lunghe perché non paghi a token: un’ora di Meteor costa $1, una settimana di Orbit $15 e un mese di Full Moon $60. Ogni sessione del piano esegue una richiesta alla volta.

Impostazioni da cambiare

  • Max Response Length (tokens). DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B ragionano prima di rispondere, e il ragionamento conta in questo limite. Impostalo ad almeno 1.000, altrimenti rischi risposte vuote.
  • Context Size (tokens). Fallo corrispondere al modello nella tabella. SillyTavern non riesce a leggerlo da BroadNet.
  • Prompt Post-Processing. Se un modello rifiuta un prompt per via di più messaggi di sistema o dell’ordine dei ruoli, prova prima Merge consecutive roles, poi Semi-strict. La documentazione di SillyTavern avverte che queste opzioni eliminano le tool call, a meno che non scegli la variante “with tools”.
  • Bypass status check. Se SillyTavern avvisa che l’API non funziona ma Test Message va a buon fine, spunta questa opzione.

Risoluzione dei problemi

  • 401. La chiave è sbagliata, scaduta o ha esaurito la quota. Incollala di nuovo e clicca Connect.
  • 404 o “model not found”. L’URL deve finire con /v1 e l’ID deve includere il prefisso broadnet/. I modelli a pagamento richiedono una ricarica; il credito di $5 copre solo broadnet/gemma-4-26b-a4b e i due modelli Transcribe.
  • Risposte vuote. Alza la lunghezza della risposta. Perché le risposte arrivano vuote.
  • 429. Una chiave a consumo consente 30 richieste al minuto e 4 in corso contemporaneamente, mentre la chiave oraria e le sessioni dei piani eseguono un solo stream. Vedi errori e retry.

Domande frequenti

Perché l’elenco Available Models è sbagliato o vuoto con BroadNet?

SillyTavern lo riempie da /v1/models. Al nostro controllo del 15 novembre 2026, il /v1/models pubblico di BroadNet elencava solo i suoi due modelli di trascrizione. Scrivi invece l’ID del modello di chat in Enter a Model ID.

Qual è il modello BroadNet migliore per lunghe chat di roleplay?

DeepSeek V4.1 Flash ha un contesto da 1.048.576 token ed è il modello dei piani illimitati a prezzo fisso di BroadNet. Qwen3.8 27B è quello che BroadNet ha testato in arabo, compresi i dialetti del Golfo ed egiziano.

Perché in SillyTavern le risposte arrivano vuote?

I modelli di chat di BroadNet, tranne Gemma 4 VL 26B, ragionano prima di rispondere, e il ragionamento conta in max_tokens. In SillyTavern quel limite è Max Response Length, quindi alzalo ad almeno 1.000 token.

Ci sono regole sui contenuti?

Sì. La Politica di utilizzo accettabile di BroadNet si applica a tutto ciò che passa dall’API e, nel divieto di contenuti sessuali che coinvolgono minori, include esplicitamente anche i contenuti di finzione e sintetici.

Leggi in MarkdownChiedi a ChatGPTChiedi a ClaudeChiedi a Perplexity