BroadRouter
Comenzar

Continue con BroadNet Inference (config.yaml y apiBase)

Actualizado

En ~/.continue/config.yaml, agregue un modelo con provider openai, model con un ID de BroadNet como broadnet/glm-5.3, apiBase en https://inference.broadnet.ai/v1 y apiKey con su clave de BroadNet. Agregue capabilities con tool_use para el modo Agent y defina contextLength y maxTokens en defaultCompletionOptions.

Continue es un asistente de IA de código abierto para VS Code y JetBrains. Se conecta a servidores compatibles con OpenAI mediante su proveedor openai con un apiBase personalizado, como muestra la documentación del proveedor OpenAI de Continue. BroadNet Inference encaja en ese patrón: el mismo formato de solicitud, con otra URL base y otros IDs de modelo.

Configuración

  1. Obtenga una clave de BroadNet en la consola. Consulte claves de API.
  2. Abra la configuración local. Está en ~/.continue/config.yaml en macOS y Linux, y en %USERPROFILE%\.continue\config.yaml en Windows. En el IDE, abra el menú desplegable de configuraciones sobre el campo del chat y haga clic en el ícono de engranaje junto a Local Config.
  3. Agregue los modelos.
name: My Config
version: 0.0.1
schema: v1
models:
  - name: BroadNet GLM 5.3
    provider: openai
    model: broadnet/glm-5.3
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    roles:
      - chat
      - edit
      - apply
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 1048576
      maxTokens: 8000
  - name: BroadNet Qwen3.8 27B
    provider: openai
    model: broadnet/qwen3.8-27b
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    capabilities:
      - tool_use
      - image_input
    defaultCompletionOptions:
      contextLength: 262144
      maxTokens: 8000
  1. Guarde y elija el modelo en el selector de modelos del panel de Continue.

Mantenga el archivo fuera del control de versiones, porque contiene la clave.

Qué hace cada campo

  • provider: openai hace que Continue envíe solicitudes estándar de chat completions.
  • apiBase reemplaza la dirección predeterminada de OpenAI. No agregue /chat/completions; Continue añade la ruta.
  • capabilities anula la detección automática de Continue. Su referencia indica que tool_use es obligatorio para el modo Agent y que image_input habilita la carga de imágenes. Continue no puede detectarlas en IDs personalizados, así que defínalas usted.
  • contextLength y maxTokens van dentro de defaultCompletionOptions. En BroadNet el razonamiento cuenta dentro de maxTokens, así que deje margen.
  • roles toma por defecto chat, edit, apply y summarize. Omitimos autocomplete: estos modelos razonan antes de responder, lo que encaja mejor con el chat y las ediciones que con el autocompletado a cada pulsación.

Qué modelo elegir

Uso Modelo Por qué
Chat y modo Agent broadnet/glm-5.3 Herramientas y salida estructurada, contexto de 1M
Capturas de pantalla, árabe broadnet/qwen3.8-27b Herramientas y entrada de imágenes, contexto de 262K
Chats largos con un plan de tarifa plana broadnet/deepseek-v4.1-flash Planes ilimitados, contexto de 1M; herramientas no indicadas

Con DeepSeek V4.1 Flash, quite tool_use salvo que su propia prueba demuestre que las llamadas a herramientas funcionan, y defina contextLength: 1048576. Los precios de todos los modelos están en la página de precios. La página del modelo GLM 5.3 recoge sus límites.

Solución de problemas

  • 401. Revise apiKey. Una clave de pago por uso incorrecta, caducada o sin saldo devuelve 401.
  • Errores de modelo en la primera solicitud. model debe ser el ID exacto de BroadNet, con el prefijo broadnet/. GLM 5.3, Qwen3.8 27B y DeepSeek V4.1 Flash requieren una recarga; el crédito inicial de $5 cubre BroadNet Gemma 4 VL 26B y los dos modelos Transcribe.
  • Respuestas vacías o cortadas. Aumente maxTokens. Por qué las respuestas llegan vacías.
  • 429. Una clave de pago por uso permite 30 solicitudes por minuto y 4 simultáneas. El modo Agent hace muchas llamadas seguidas; añada backoff a su flujo de trabajo o espacie las ejecuciones. Consulte errores y reintentos.
  • Varios agentes a la vez con una clave de plan. Cada sesión de plan ilimitado atiende una solicitud a la vez. Dé a cada agente en paralelo su propia sesión.
  • Endpoint incorrecto. La documentación de Continue menciona useLegacyCompletionsEndpoint y useResponsesApi. No active la opción heredada; BroadNet sirve /v1/chat/completions. Continue usa /responses por defecto solo con los modelos de la serie o y GPT-5 de OpenAI, así que los IDs de BroadNet usan chat completions sin ajustes adicionales.

Preguntas frecuentes

¿Dónde está el config.yaml de Continue?

El archivo local es ~/.continue/config.yaml en macOS y Linux, y %USERPROFILE%\.continue\config.yaml en Windows. También puede abrirlo desde el ícono de engranaje junto a Local Config en el menú desplegable de configuraciones.

¿Por qué no puedo usar el modo Agent con mi modelo de BroadNet?

Continue necesita la capacidad tool_use para el modo Agent. Agregue capabilities con tool_use a la entrada del modelo y elija un modelo que BroadNet indique con herramientas, como broadnet/glm-5.3.

¿Por qué Continue devuelve una respuesta vacía?

El razonamiento agotó maxTokens antes de que empezara la respuesta. Aumente maxTokens en defaultCompletionOptions a unos pocos miles.

¿Debo usar config.json o config.yaml en Continue?

Use config.yaml. La documentación de Continue marca config.json y su referencia como obsoletos (deprecated), y todos los ejemplos actuales usan YAML con schema v1.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity