BroadNet Inference en Dify con el plugin OpenAI-API-compatible
Actualizado
En Dify, instale el plugin OpenAI-API-compatible desde Integrations, Model Provider, y haga clic en Add Model. Elija el tipo LLM e ingrese un ID de BroadNet como broadnet/glm-5.3, su clave y la API Base URL https://inference.broadnet.ai/v1. Ponga Completion mode en Chat, el tamaño de contexto real, un límite de salida con margen para razonar, y Tool Call solo con GLM 5.3 o Qwen3.8 27B.
Dify es una plataforma de código abierto para crear aplicaciones y flujos de trabajo con LLM. Los proveedores que Dify no incluye por nombre se agregan con el plugin de proveedor de modelos OpenAI-API-compatible, publicado por el equipo de Dify (langgenius). BroadNet Inference sirve chat completions estándar en https://inference.broadnet.ai/v1, así que encaja. BroadRouter es el sitio de la propia BroadNet; los nombres de campo de abajo corresponden a la versión 0.0.83 del plugin.
Configuración
Obtenga una clave. Cree una clave de pago por uso en la consola de BroadNet.
Instale el plugin. En Dify, vaya a Integrations > Model Provider, busque OpenAI-API-compatible entre los proveedores que puede instalar (o ábralo en el Marketplace) e instálelo. Debe ser propietario o administrador del espacio de trabajo.
Agregue un modelo. Haga clic en Add Model en la tarjeta del proveedor y complete:
Campo
Valor
Model Type
LLM
Model Name
broadnet/glm-5.3
Model display name
GLM 5.3 (BroadNet)
API Key
su clave de BroadNet
API Base URL
https://inference.broadnet.ai/v1
Completion mode
Chat
Model context size
1048576
Upper bound for max tokens
16000
Function Call Type
Tool Call
Vision Support
Not Support
Structured Output
Support
API Type
Chat Completions API (/chat/completions)
Token parameter name
Use max_tokens
Guarde. Dify verifica las credenciales antes de agregar el modelo.
Pruébelo. Cree una app Chatbot, seleccione GLM 5.3 (BroadNet) en el selector de modelos y envíe un mensaje en el panel de vista previa.
Repita Add Model para cada modelo de BroadNet que quiera usar. El nombre del modelo debe coincidir exactamente con el ID de BroadNet, incluido el prefijo broadnet/.
Valores por modelo
Model Name
Tamaño de contexto
Function Call Type
Vision Support
broadnet/glm-5.3
1048576
Tool Call
Not Support
broadnet/qwen3.8-27b
262144
Tool Call
Support
broadnet/deepseek-v4.1-flash
1048576
Not Support (sin probar)
Support
broadnet/gemma-4-26b-a4b
32768
Not Support
Support
Por qué estos valores:
El tamaño de contexto es 4,096 por defecto en el plugin. Si lo deja así, Dify recorta la memoria y el contexto recuperado muy por debajo de lo que acepta el modelo.
Upper bound for max tokens también es 4,096 por defecto. Tres de los modelos razonan antes de responder, y el razonamiento cuenta dentro de este límite, así que deles margen. 16,000 es nuestra sugerencia, no un límite de BroadNet.
Token parameter name en max_tokens coincide con el campo de la referencia de la API de BroadNet. Por defecto, el plugin lo deduce del nombre del modelo.
API Type se queda en Chat Completions. BroadNet no ofrece la Responses API.
Transcripción
El plugin también puede agregar modelos de voz a texto. BroadNet sirve /v1/audio/transcriptions con broadnet/cohere-transcribe-arabic para árabe y broadnet/cohere-transcribe para 14 idiomas. El README del plugin indica que, para voz a texto, agrega la ruta de versión por sí mismo, así que su ejemplo usa el host sin /v1 (aquí, https://inference.broadnet.ai). No hemos probado esta ruta a través de Dify; compruébela primero con un archivo WAV corto. Consulte la guía de voz a texto en árabe.
Solución de problemas
Falla la verificación de credenciales. Revise la clave, la API Base URL (termina en /v1 para LLM) y el nombre del modelo. Los modelos de pago requieren una recarga; el crédito de $5 cubre solo broadnet/gemma-4-26b-a4b y los dos modelos Transcribe.
Respuestas vacías en un flujo de trabajo. El max tokens del nodo LLM es demasiado bajo para un modelo de razonamiento. Auméntelo. Por qué las respuestas llegan vacías.
El nodo Agent nunca llama a herramientas. Use GLM 5.3 o Qwen3.8 27B con Function Call Type en Tool Call.
429 bajo carga. Una clave de pago por uso permite 30 solicitudes por minuto y 4 en curso. Las ramas en paralelo y los nodos de iteración pueden superarlo; reduzca su paralelismo. Consulte errores y reintentos.
Preguntas frecuentes
¿BroadNet funciona tanto en Dify Cloud como en Dify autoalojado?
Sí. BroadNet Inference es un endpoint HTTPS público, así que Dify Cloud puede alcanzarlo. La documentación de Dify indica que solo los propietarios y administradores del espacio de trabajo pueden gestionar los proveedores de modelos, y que la clave que agregue sirve para todo el espacio de trabajo.
¿La API Base URL debe incluir /v1?
Sí, para modelos LLM. Los ejemplos del propio plugin usan una URL base terminada en /v1 para modelos de chat, y su README advierte que en algunos otros tipos de modelo agrega la ruta de versión por sí mismo.
¿Qué Function Call Type debo elegir?
Tool Call para GLM 5.3 y Qwen3.8 27B, que BroadNet indica con herramientas. Elija Not Support para DeepSeek V4.1 Flash, salvo que usted mismo haya probado las llamadas a herramientas con él.
¿Los créditos de IA de Dify sirven para los modelos de BroadNet?
No. La documentación de Dify indica que los créditos de IA (AI credits) no se aplican a los proveedores que usted usa con su propia cuenta. BroadNet factura a la clave que ingrese.