Collegare SillyTavern a BroadNet Inference (Custom OpenAI-compatible)
Aggiornato
Nel pannello API Connections di SillyTavern scegli Chat Completion, poi Custom (OpenAI-compatible) come Chat Completion Source. Imposta Custom Endpoint su https://inference.broadnet.ai/v1, incolla la tua chiave BroadNet, scrivi un ID di modello come broadnet/qwen3.8-27b in Enter a Model ID, clicca Connect e poi Test Message. Imposta Max Response Length ad almeno 1.000 token.
SillyTavern è un front end di chat open source, molto usato per chat con personaggi e roleplay. La sua sorgente Custom (OpenAI-compatible) collega il tipo di API Chat Completion a qualsiasi server con lo schema generico di OpenAI. BroadNet Inference serve chat completions standard su https://inference.broadnet.ai/v1. BroadRouter è il sito di BroadNet; i passaggi seguono la documentazione di SillyTavern e la sua release 1.19.0.
Configurazione
Procurati una chiave. Crea una chiave a consumo nella console di BroadNet, compra una chiave oraria oppure un piano illimitato.
Apri il pannello API Connections.
Imposta API su Chat Completion.
Imposta Chat Completion Source su Custom (OpenAI-compatible).
Compila il modulo personalizzato:
Campo
Valore
Custom Endpoint (Base URL)
https://inference.broadnet.ai/v1
Custom API Key
la tua chiave BroadNet
Enter a Model ID
broadnet/qwen3.8-27b
Clicca Connect.
Provalo. Clicca Test Message. SillyTavern invia un prompt semplice al modello; se arriva una risposta, la connessione funziona.
Non aggiungere /chat/completions all’URL. Il modulo di SillyTavern dice che quel suffisso viene aggiunto in automatico.
Scrivi l’ID del modello invece di sceglierlo da Available Models. Quell’elenco arriva da /v1/models, che la documentazione di BroadNet descrive come metadati del catalogo per i sistemi di monitoraggio. Al nostro controllo del 15 novembre 2026 elencava solo i due modelli di trascrizione, che non possono chattare.
Quale modello scegliere
Modello
ID
Contesto
Note
DeepSeek V4.1 Flash
broadnet/deepseek-v4.1-flash
1.048.576
Chat lunghe; il modello dei piani illimitati
Qwen3.8 27B
broadnet/qwen3.8-27b
262.144
Immagini; testato in arabo da BroadNet
GLM 5.3
broadnet/glm-5.3
1.048.576
Solo testo; strumenti
BroadNet Gemma 4 VL 26B
broadnet/gemma-4-26b-a4b
32.768
Funziona con il credito gratuito di $5 e con la chiave oraria
Un piano illimitato è adatto alle sessioni lunghe perché non paghi a token: un’ora di Meteor costa $1, una settimana di Orbit $15 e un mese di Full Moon $60. Ogni sessione del piano esegue una richiesta alla volta.
Impostazioni da cambiare
Max Response Length (tokens). DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B ragionano prima di rispondere, e il ragionamento conta in questo limite. Impostalo ad almeno 1.000, altrimenti rischi risposte vuote.
Context Size (tokens). Fallo corrispondere al modello nella tabella. SillyTavern non riesce a leggerlo da BroadNet.
Prompt Post-Processing. Se un modello rifiuta un prompt per via di più messaggi di sistema o dell’ordine dei ruoli, prova prima Merge consecutive roles, poi Semi-strict. La documentazione di SillyTavern avverte che queste opzioni eliminano le tool call, a meno che non scegli la variante “with tools”.
Bypass status check. Se SillyTavern avvisa che l’API non funziona ma Test Message va a buon fine, spunta questa opzione.
Risoluzione dei problemi
401. La chiave è sbagliata, scaduta o ha esaurito la quota. Incollala di nuovo e clicca Connect.
404 o “model not found”. L’URL deve finire con /v1 e l’ID deve includere il prefisso broadnet/. I modelli a pagamento richiedono una ricarica; il credito di $5 copre solo broadnet/gemma-4-26b-a4b e i due modelli Transcribe.
429. Una chiave a consumo consente 30 richieste al minuto e 4 in corso contemporaneamente, mentre la chiave oraria e le sessioni dei piani eseguono un solo stream. Vedi errori e retry.
Domande frequenti
Perché l’elenco Available Models è sbagliato o vuoto con BroadNet?
SillyTavern lo riempie da /v1/models. Al nostro controllo del 15 novembre 2026, il /v1/models pubblico di BroadNet elencava solo i suoi due modelli di trascrizione. Scrivi invece l’ID del modello di chat in Enter a Model ID.
Qual è il modello BroadNet migliore per lunghe chat di roleplay?
DeepSeek V4.1 Flash ha un contesto da 1.048.576 token ed è il modello dei piani illimitati a prezzo fisso di BroadNet. Qwen3.8 27B è quello che BroadNet ha testato in arabo, compresi i dialetti del Golfo ed egiziano.
Perché in SillyTavern le risposte arrivano vuote?
I modelli di chat di BroadNet, tranne Gemma 4 VL 26B, ragionano prima di rispondere, e il ragionamento conta in max_tokens. In SillyTavern quel limite è Max Response Length, quindi alzalo ad almeno 1.000 token.
Ci sono regole sui contenuti?
Sì. La Politica di utilizzo accettabile di BroadNet si applica a tutto ciò che passa dall’API e, nel divieto di contenuti sessuali che coinvolgono minori, include esplicitamente anche i contenuti di finzione e sintetici.