BroadRouter
Inizia

Collegare Open WebUI a BroadNet Inference

Aggiornato

In Open WebUI vai su Settings > Connections nella sezione di amministrazione, clicca Add Connection sotto Manage OpenAI API Connections, imposta URL su https://inference.broadnet.ai/v1 e API Key con la tua chiave BroadNet, poi aggiungi gli ID dei modelli, per esempio broadnet/glm-5.3, alla allowlist Model IDs e salva.

Open WebUI è un’interfaccia di chat self-hosted. Si collega a qualsiasi provider che implementa il protocollo chat completions di OpenAI, e BroadNet Inference lo fa. I passaggi seguono la guida di Open WebUI per i provider compatibili con OpenAI.

Configurazione

  1. Procurati una chiave BroadNet. Per un’interfaccia di chat usata da più persone, la scelta giusta è una chiave a consumo. Vedi chiavi API e allowlist di IP.

  2. Apri la pagina delle connessioni. Vai su Settings > Connections nella sezione di amministrazione e trova Manage OpenAI API Connections.

  3. Clicca Add Connection e compila:

    Campo Valore
    URL https://inference.broadnet.ai/v1 (senza slash finale)
    API Key la tua chiave BroadNet
    Model IDs aggiungi ciascun ID qui sotto, uno alla volta, con l’icona +
  4. Aggiungi a mano gli ID dei modelli. Scrivi broadnet/glm-5.3, clicca + e ripeti per gli altri che ti servono. La documentazione di BroadNet descrive GET /v1/models come metadati pubblici del catalogo per i sistemi di monitoraggio, quindi non contare su quell’endpoint per riempire il selettore dei modelli.

  5. Clicca Save. La documentazione di Open WebUI precisa che il salvataggio non verifica la connessione.

  6. Avvia una chat e scegli il modello dal selettore.

Con le variabili d’ambiente

Se esegui Open WebUI in Docker, puoi impostare la connessione all’avvio:

OPENAI_API_BASE_URL=https://inference.broadnet.ai/v1
OPENAI_API_KEY=your-broadnet-key

Per aggiungere BroadNet accanto a una connessione OpenAI esistente, usa le forme plurali, con i valori separati da punto e virgola: OPENAI_API_BASE_URLS e OPENAI_API_KEYS. OPENAI_API_CONFIGS imposta le opzioni di ogni connessione, come model_ids, indicizzate in base alla posizione della connessione in quell’elenco:

OPENAI_API_CONFIGS='{"0": {"enable": true, "model_ids": ["broadnet/glm-5.3", "broadnet/qwen3.8-27b"]}}'

Il riferimento alle variabili d’ambiente di Open WebUI le classifica come impostazioni ConfigVar. Vengono lette al primo avvio e salvate nel database. Da lì in poi vince il pannello di amministrazione. Modifica la connessione in Settings > Connections nella sezione di amministrazione, oppure imposta ENABLE_PERSISTENT_CONFIG=False se vuoi che l’ambiente venga applicato a ogni avvio.

Quale modello scegliere

Uso Modello Contesto
Chat generica, strumenti, JSON broadnet/glm-5.3 1.048.576
Domande sulle immagini, arabo broadnet/qwen3.8-27b 262.144
Documenti lunghi, immagini broadnet/deepseek-v4.1-flash 1.048.576
Costo basso, credito gratuito broadnet/gemma-4-26b-a4b 32.768

BroadNet ha testato Qwen3.8 27B in arabo, compresi i dialetti del Golfo ed egiziano; vedi come scegliere un LLM per l’arabo. Gemma 4 VL 26B è l’unico modello di chat che funziona con il credito iniziale di $5; il credito copre anche i due modelli Transcribe. I prezzi di ciascuno sono nella pagina dei prezzi.

Open WebUI passa i parametri standard come temperature e max_tokens, e supporta l’uso degli strumenti quando modello e server supportano tools. BroadNet indica gli strumenti per GLM 5.3 e Qwen3.8 27B.

Risoluzione dei problemi

  • Verify Connection fallisce con 400, 401 o 403. Il pulsante di verifica di Open WebUI chiama /models. La sua documentazione dice che chat completions può comunque funzionare. Aggiungi gli ID alla allowlist e prova una chat. Se anche la chat restituisce 401, la chiave è sbagliata, scaduta o ha esaurito la quota a consumo.
  • Il modello compare nell’elenco ma il primo messaggio fallisce. Controlla che l’ID corrisponda esattamente a quello di BroadNet, con il prefisso broadnet/. GLM 5.3, Qwen3.8 27B e DeepSeek V4.1 Flash richiedono una ricarica.
  • Risposte vuote. I modelli di ragionamento (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) spendono prima i token di output nel ragionamento. Se hai impostato max_tokens negli Advanced Params del modello, alzalo o svuotalo. Perché le risposte arrivano vuote.
  • 429 quando più persone chattano. Una chiave a consumo consente 30 richieste al minuto e 4 in contemporanea. Open WebUI fa anche chiamate in background, per esempio per i titoli delle chat, con la stessa chiave. Vedi errori e retry.
  • Le variabili d’ambiente modificate non hanno effetto. Il primo avvio ha salvato i vecchi valori. Modifica la connessione nel pannello di amministrazione, oppure vedi la sezione sulle variabili d’ambiente qui sopra.
  • Usare una chiave di piano. Una sessione del piano illimitato esegue una richiesta alla volta, e le chiavi non si possono condividere. Va bene per l’istanza personale di una persona; le richieste degli altri utenti finiscono in coda.

Domande frequenti

Perché Verify Connection fallisce ma la chat funziona?

Il pulsante di verifica di Open WebUI chiama l’endpoint /models del provider. La sua documentazione dice che una verifica fallita non significa che la chat non funzioni. Aggiungi a mano gli ID dei modelli BroadNet alla allowlist Model IDs.

Posso configurare la connessione con le variabili d’ambiente?

Sì. Imposta OPENAI_API_BASE_URL su https://inference.broadnet.ai/v1 e OPENAI_API_KEY con la tua chiave BroadNet. Open WebUI le salva al primo avvio, quindi le modifiche successive alle variabili vengono ignorate, a meno che ENABLE_PERSISTENT_CONFIG sia False.

Perché il nuovo valore di OPENAI_API_BASE_URL non ha effetto?

Open WebUI lo tratta come ConfigVar. Dopo il primo avvio usa il valore salvato nel suo database. Cambia l’URL in Settings > Connections nella sezione di amministrazione, oppure imposta ENABLE_PERSISTENT_CONFIG=False per leggere l’ambiente a ogni avvio.

Tutto il mio team può condividere una sola chiave del piano illimitato in Open WebUI?

No. I piani di BroadNet non consentono di condividere una chiave, e una sessione del piano esegue una richiesta alla volta. Per un Open WebUI condiviso usa una chiave a consumo.

Leggi in MarkdownChiedi a ChatGPTChiedi a ClaudeChiedi a Perplexity