BroadRouter
Commencer

Connecter Open WebUI à BroadNet Inference

Mis à jour

Dans Open WebUI, ouvrez Settings > Connections dans la section d’administration, cliquez sur Add Connection sous Manage OpenAI API Connections, indiquez https://inference.broadnet.ai/v1 comme URL et votre clé BroadNet comme API Key, puis ajoutez des ID de modèles comme broadnet/glm-5.3 à la liste Model IDs et enregistrez.

Open WebUI est une interface de chat auto-hébergée. Elle se connecte à tout fournisseur qui implémente le protocole chat completions d’OpenAI, et c’est le cas de BroadNet Inference. Les étapes suivent le guide d’Open WebUI pour les fournisseurs compatibles OpenAI.

Configuration

  1. Obtenez une clé BroadNet. Pour une interface de chat utilisée par plusieurs personnes, une clé à l’usage est le bon choix. Voir clés d’API et listes d’IP autorisées.

  2. Ouvrez la page des connexions. Allez dans Settings > Connections dans la section d’administration et repérez Manage OpenAI API Connections.

  3. Cliquez sur Add Connection et remplissez :

    Champ Valeur
    URL https://inference.broadnet.ai/v1 (sans barre oblique finale)
    API Key votre clé BroadNet
    Model IDs ajoutez chaque ID ci-dessous, un par un, avec l’icône +
  4. Ajoutez les ID de modèles à la main. Saisissez broadnet/glm-5.3, cliquez sur +, puis recommencez pour les autres modèles voulus. La documentation de BroadNet décrit GET /v1/models comme des métadonnées publiques du catalogue destinées à la supervision : ne comptez pas dessus pour remplir le sélecteur de modèles.

  5. Cliquez sur Save. La documentation d’Open WebUI précise que l’enregistrement ne teste pas la connexion.

  6. Lancez un chat et choisissez le modèle dans le sélecteur.

Avec des variables d’environnement

Si vous faites tourner Open WebUI dans Docker, vous pouvez définir la connexion au démarrage :

OPENAI_API_BASE_URL=https://inference.broadnet.ai/v1
OPENAI_API_KEY=your-broadnet-key

Pour ajouter BroadNet à côté d’une connexion OpenAI existante, utilisez les formes au pluriel, séparées par des points-virgules : OPENAI_API_BASE_URLS et OPENAI_API_KEYS. OPENAI_API_CONFIGS définit des options par connexion comme model_ids, indexées selon la position de la connexion dans cette liste :

OPENAI_API_CONFIGS='{"0": {"enable": true, "model_ids": ["broadnet/glm-5.3", "broadnet/qwen3.8-27b"]}}'

La référence des variables d’environnement d’Open WebUI les classe parmi les réglages ConfigVar. Elles sont lues au premier lancement et enregistrées dans la base de données. Ensuite, c’est le panneau d’administration qui prime. Modifiez la connexion dans Settings > Connections dans la section d’administration, ou définissez ENABLE_PERSISTENT_CONFIG=False si vous voulez que l’environnement s’applique à chaque démarrage.

Quel modèle choisir ?

Usage Modèle Contexte
Chat général, outils, JSON broadnet/glm-5.3 1 048 576
Questions sur des images, arabe broadnet/qwen3.8-27b 262 144
Longs documents, images broadnet/deepseek-v4.1-flash 1 048 576
Petit budget, crédit gratuit broadnet/gemma-4-26b-a4b 32 768

BroadNet a testé Qwen3.8 27B en arabe, y compris les dialectes du Golfe et égyptien ; voir choisir un LLM pour l’arabe. Gemma 4 VL 26B est le seul modèle de chat qui fonctionne avec le crédit de départ de $5 ; le crédit couvre aussi les deux modèles Transcribe. Les prix de chacun figurent sur la page des tarifs.

Open WebUI transmet les paramètres standard comme temperature et max_tokens, et prend en charge les outils quand le modèle et le serveur gèrent tools. BroadNet indique les outils pour GLM 5.3 et Qwen3.8 27B.

Dépannage

  • Verify Connection échoue avec 400, 401 ou 403. Le bouton de vérification d’Open WebUI appelle /models. Sa documentation précise que les chat completions peuvent tout de même fonctionner. Ajoutez les ID à la liste et testez un chat. Si le chat renvoie aussi 401, la clé est erronée, expirée ou son quota de paiement à l’usage est épuisé.
  • Le modèle apparaît, mais le premier message échoue. Vérifiez que l’ID correspond exactement à celui de BroadNet, avec le préfixe broadnet/. GLM 5.3, Qwen3.8 27B et DeepSeek V4.1 Flash nécessitent une recharge.
  • Réponses vides. Les modèles de raisonnement (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) dépensent d’abord des tokens de sortie pour raisonner. Si vous avez défini max_tokens dans les Advanced Params du modèle, augmentez-le ou videz-le. Pourquoi les réponses reviennent vides.
  • 429 quand plusieurs personnes discutent. Une clé à l’usage autorise 30 requêtes par minute et 4 simultanées. Open WebUI fait aussi des appels en arrière-plan avec la même clé, par exemple pour les titres de conversation. Voir codes d’erreur et nouvelles tentatives.
  • Les variables d’environnement modifiées n’ont aucun effet. Le premier lancement a enregistré les anciennes valeurs. Modifiez la connexion dans le panneau d’administration, ou reportez-vous à la section sur les variables d’environnement plus haut.
  • Avec une clé de forfait. Une session de forfait illimité traite une seule requête à la fois, et les clés ne peuvent pas être partagées. Cela convient à une instance personnelle ; les requêtes des autres utilisateurs passent en file d’attente.

Questions fréquentes

Pourquoi Verify Connection échoue-t-il alors que le chat fonctionne ?

Le bouton de vérification d’Open WebUI appelle l’endpoint /models du fournisseur. Sa documentation précise qu’un échec ne signifie pas que le chat est cassé. Ajoutez à la main les ID de modèles BroadNet à la liste Model IDs.

Puis-je configurer la connexion avec des variables d’environnement ?

Oui. Définissez OPENAI_API_BASE_URL sur https://inference.broadnet.ai/v1 et OPENAI_API_KEY sur votre clé BroadNet. Open WebUI enregistre ces valeurs au premier lancement : les modifications ultérieures des variables sont ignorées, sauf si ENABLE_PERSISTENT_CONFIG vaut False.

Pourquoi ma nouvelle valeur de OPENAI_API_BASE_URL n’est-elle pas prise en compte ?

Open WebUI la traite comme une ConfigVar. Après le premier lancement, il utilise la valeur enregistrée dans sa base de données. Modifiez l’URL dans Settings > Connections dans la section d’administration, ou définissez ENABLE_PERSISTENT_CONFIG=False pour relire l’environnement à chaque démarrage.

Toute mon équipe peut-elle partager une clé de forfait illimité dans Open WebUI ?

Non. Les forfaits de BroadNet n’autorisent pas le partage d’une clé, et une session de forfait traite une seule requête à la fois. Utilisez une clé à l’usage pour un Open WebUI partagé.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity