BroadRouter
Commencer

Ajouter BroadNet Inference à Dify avec le plugin OpenAI-API-compatible

Mis à jour

Dans Dify, installez le plugin OpenAI-API-compatible depuis Integrations, Model Provider, puis cliquez sur Add Model. Choisissez le type LLM et saisissez un ID BroadNet comme broadnet/glm-5.3, votre clé BroadNet et l’API Base URL https://inference.broadnet.ai/v1. Réglez Completion mode sur Chat, la vraie taille de contexte, une limite de sortie avec de la marge pour le raisonnement, et Tool Call seulement pour GLM 5.3 ou Qwen3.8 27B.

Dify est une plateforme open source pour créer des applications et des workflows LLM. Les fournisseurs que Dify ne liste pas nommément s’ajoutent via le plugin de fournisseur de modèles OpenAI-API-compatible, publié par l’équipe de Dify (langgenius). BroadNet Inference sert des chat completions standard à l’adresse https://inference.broadnet.ai/v1 : il convient donc. BroadRouter est le site de BroadNet ; les noms de champs ci-dessous viennent de la version 0.0.83 du plugin.

Configuration

  1. Obtenez une clé. Créez une clé à l’usage dans la console BroadNet.

  2. Installez le plugin. Dans Dify, allez dans Integrations > Model Provider, trouvez OpenAI-API-compatible parmi les fournisseurs installables (ou ouvrez-le sur la Marketplace) et installez-le. Vous devez être propriétaire ou administrateur de l’espace de travail.

  3. Ajoutez un modèle. Cliquez sur Add Model sur la carte du fournisseur et remplissez :

    Champ Valeur
    Model Type LLM
    Model Name broadnet/glm-5.3
    Model display name GLM 5.3 (BroadNet)
    API Key votre clé BroadNet
    API Base URL https://inference.broadnet.ai/v1
    Completion mode Chat
    Model context size 1048576
    Upper bound for max tokens 16000
    Function Call Type Tool Call
    Vision Support Not Support
    Structured Output Support
    API Type Chat Completions API (/chat/completions)
    Token parameter name Use max_tokens
  4. Enregistrez. Dify vérifie les identifiants avant d’ajouter le modèle.

  5. Testez. Créez une application Chatbot, sélectionnez GLM 5.3 (BroadNet) dans le sélecteur de modèles et envoyez un message dans le volet d’aperçu.

Répétez Add Model pour chaque modèle BroadNet souhaité. Le nom du modèle doit correspondre exactement à l’ID BroadNet, préfixe broadnet/ compris.

Valeurs par modèle

Model Name Taille de contexte Function Call Type Vision Support
broadnet/glm-5.3 1048576 Tool Call Not Support
broadnet/qwen3.8-27b 262144 Tool Call Support
broadnet/deepseek-v4.1-flash 1048576 Not Support (non testé) Support
broadnet/gemma-4-26b-a4b 32768 Not Support Support

Pourquoi ces choix :

  • Context size vaut 4 096 par défaut dans le plugin. Si vous la laissez ainsi, Dify tronque la mémoire et le contexte récupéré bien en dessous de ce que le modèle accepte.
  • Upper bound for max tokens vaut aussi 4 096 par défaut. Trois des modèles raisonnent avant de répondre, et le raisonnement compte dans cette limite : laissez-leur de la marge. 16 000 est notre suggestion, pas une limite de BroadNet.
  • Token parameter name réglé sur max_tokens correspond au champ de la référence de l’API de BroadNet. Par défaut, le plugin le devine à partir du nom du modèle.
  • API Type reste sur Chat Completions. BroadNet ne liste pas la Responses API.

Transcription

Le plugin peut aussi ajouter des modèles de speech-to-text. BroadNet sert /v1/audio/transcriptions avec broadnet/cohere-transcribe-arabic pour l’arabe et broadnet/cohere-transcribe pour 14 langues. Le README du plugin indique que, pour le speech-to-text, il ajoute lui-même le chemin de version : son exemple utilise donc l’hôte sans /v1 (ici, https://inference.broadnet.ai). Nous n’avons pas testé ce chemin via Dify ; vérifiez-le d’abord avec un court fichier WAV. Voir le guide de transcription de l’arabe.

Dépannage

  • La vérification des identifiants échoue. Vérifiez la clé, l’API Base URL (elle se termine par /v1 pour les LLM) et le nom du modèle. Les modèles payants nécessitent une recharge ; le crédit de $5 ne couvre que broadnet/gemma-4-26b-a4b et les deux modèles Transcribe.
  • Réponses vides dans un workflow. Le max tokens du nœud LLM est trop bas pour un modèle à raisonnement. Augmentez-le. Pourquoi les réponses reviennent vides.
  • Le nœud Agent n’appelle jamais d’outils. Utilisez GLM 5.3 ou Qwen3.8 27B avec Function Call Type réglé sur Tool Call.
  • 429 en charge. Une clé à l’usage autorise 30 requêtes par minute et 4 requêtes en cours. Les branches parallèles et les nœuds d’itération peuvent dépasser ce seuil ; réduisez leur parallélisme. Voir codes d’erreur et nouvelles tentatives.

Questions fréquentes

BroadNet fonctionne-t-il avec Dify Cloud comme avec Dify auto-hébergé ?

Oui. BroadNet Inference est un endpoint HTTPS public, Dify Cloud peut donc l’atteindre. Selon la documentation de Dify, seuls les propriétaires et administrateurs de l’espace de travail peuvent gérer les fournisseurs de modèles, et une clé ajoutée vaut pour tout l’espace de travail.

L’API Base URL doit-elle inclure /v1 ?

Oui, pour les modèles LLM. Les exemples du plugin utilisent une URL de base se terminant par /v1 pour les modèles de chat, et son README prévient que, pour certains autres types de modèles, il ajoute lui-même le chemin de version.

Quel Function Call Type choisir ?

Tool Call pour GLM 5.3 et Qwen3.8 27B, que BroadNet liste avec les outils. Choisissez Not Support pour DeepSeek V4.1 Flash, sauf si vous avez vous-même testé les appels d’outils avec ce modèle.

Les crédits IA de Dify s’appliquent-ils aux modèles BroadNet ?

Non. Selon la documentation de Dify, les crédits IA ne s’appliquent pas aux fournisseurs que vous utilisez avec votre propre compte. BroadNet facture la clé que vous saisissez.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity