BroadRouter
Comenzar

BroadNet Inference en Dify con el plugin OpenAI-API-compatible

Actualizado

En Dify, instale el plugin OpenAI-API-compatible desde Integrations, Model Provider, y haga clic en Add Model. Elija el tipo LLM e ingrese un ID de BroadNet como broadnet/glm-5.3, su clave y la API Base URL https://inference.broadnet.ai/v1. Ponga Completion mode en Chat, el tamaño de contexto real, un límite de salida con margen para razonar, y Tool Call solo con GLM 5.3 o Qwen3.8 27B.

Dify es una plataforma de código abierto para crear aplicaciones y flujos de trabajo con LLM. Los proveedores que Dify no incluye por nombre se agregan con el plugin de proveedor de modelos OpenAI-API-compatible, publicado por el equipo de Dify (langgenius). BroadNet Inference sirve chat completions estándar en https://inference.broadnet.ai/v1, así que encaja. BroadRouter es el sitio de la propia BroadNet; los nombres de campo de abajo corresponden a la versión 0.0.83 del plugin.

Configuración

  1. Obtenga una clave. Cree una clave de pago por uso en la consola de BroadNet.

  2. Instale el plugin. En Dify, vaya a Integrations > Model Provider, busque OpenAI-API-compatible entre los proveedores que puede instalar (o ábralo en el Marketplace) e instálelo. Debe ser propietario o administrador del espacio de trabajo.

  3. Agregue un modelo. Haga clic en Add Model en la tarjeta del proveedor y complete:

    Campo Valor
    Model Type LLM
    Model Name broadnet/glm-5.3
    Model display name GLM 5.3 (BroadNet)
    API Key su clave de BroadNet
    API Base URL https://inference.broadnet.ai/v1
    Completion mode Chat
    Model context size 1048576
    Upper bound for max tokens 16000
    Function Call Type Tool Call
    Vision Support Not Support
    Structured Output Support
    API Type Chat Completions API (/chat/completions)
    Token parameter name Use max_tokens
  4. Guarde. Dify verifica las credenciales antes de agregar el modelo.

  5. Pruébelo. Cree una app Chatbot, seleccione GLM 5.3 (BroadNet) en el selector de modelos y envíe un mensaje en el panel de vista previa.

Repita Add Model para cada modelo de BroadNet que quiera usar. El nombre del modelo debe coincidir exactamente con el ID de BroadNet, incluido el prefijo broadnet/.

Valores por modelo

Model Name Tamaño de contexto Function Call Type Vision Support
broadnet/glm-5.3 1048576 Tool Call Not Support
broadnet/qwen3.8-27b 262144 Tool Call Support
broadnet/deepseek-v4.1-flash 1048576 Not Support (sin probar) Support
broadnet/gemma-4-26b-a4b 32768 Not Support Support

Por qué estos valores:

  • El tamaño de contexto es 4,096 por defecto en el plugin. Si lo deja así, Dify recorta la memoria y el contexto recuperado muy por debajo de lo que acepta el modelo.
  • Upper bound for max tokens también es 4,096 por defecto. Tres de los modelos razonan antes de responder, y el razonamiento cuenta dentro de este límite, así que deles margen. 16,000 es nuestra sugerencia, no un límite de BroadNet.
  • Token parameter name en max_tokens coincide con el campo de la referencia de la API de BroadNet. Por defecto, el plugin lo deduce del nombre del modelo.
  • API Type se queda en Chat Completions. BroadNet no ofrece la Responses API.

Transcripción

El plugin también puede agregar modelos de voz a texto. BroadNet sirve /v1/audio/transcriptions con broadnet/cohere-transcribe-arabic para árabe y broadnet/cohere-transcribe para 14 idiomas. El README del plugin indica que, para voz a texto, agrega la ruta de versión por sí mismo, así que su ejemplo usa el host sin /v1 (aquí, https://inference.broadnet.ai). No hemos probado esta ruta a través de Dify; compruébela primero con un archivo WAV corto. Consulte la guía de voz a texto en árabe.

Solución de problemas

  • Falla la verificación de credenciales. Revise la clave, la API Base URL (termina en /v1 para LLM) y el nombre del modelo. Los modelos de pago requieren una recarga; el crédito de $5 cubre solo broadnet/gemma-4-26b-a4b y los dos modelos Transcribe.
  • Respuestas vacías en un flujo de trabajo. El max tokens del nodo LLM es demasiado bajo para un modelo de razonamiento. Auméntelo. Por qué las respuestas llegan vacías.
  • El nodo Agent nunca llama a herramientas. Use GLM 5.3 o Qwen3.8 27B con Function Call Type en Tool Call.
  • 429 bajo carga. Una clave de pago por uso permite 30 solicitudes por minuto y 4 en curso. Las ramas en paralelo y los nodos de iteración pueden superarlo; reduzca su paralelismo. Consulte errores y reintentos.

Preguntas frecuentes

¿BroadNet funciona tanto en Dify Cloud como en Dify autoalojado?

Sí. BroadNet Inference es un endpoint HTTPS público, así que Dify Cloud puede alcanzarlo. La documentación de Dify indica que solo los propietarios y administradores del espacio de trabajo pueden gestionar los proveedores de modelos, y que la clave que agregue sirve para todo el espacio de trabajo.

¿La API Base URL debe incluir /v1?

Sí, para modelos LLM. Los ejemplos del propio plugin usan una URL base terminada en /v1 para modelos de chat, y su README advierte que en algunos otros tipos de modelo agrega la ruta de versión por sí mismo.

¿Qué Function Call Type debo elegir?

Tool Call para GLM 5.3 y Qwen3.8 27B, que BroadNet indica con herramientas. Elija Not Support para DeepSeek V4.1 Flash, salvo que usted mismo haya probado las llamadas a herramientas con él.

¿Los créditos de IA de Dify sirven para los modelos de BroadNet?

No. La documentación de Dify indica que los créditos de IA (AI credits) no se aplican a los proveedores que usted usa con su propia cuenta. BroadNet factura a la clave que ingrese.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity