BroadRouter
Começar

Use o Continue com a BroadNet Inference (config.yaml e apiBase)

Atualizado em

No ~/.continue/config.yaml, adicione um modelo com provider openai, model com um ID da BroadNet como broadnet/glm-5.3, apiBase como https://inference.broadnet.ai/v1 e apiKey com a sua chave da BroadNet. Adicione a capability tool_use para o modo Agent e defina contextLength e maxTokens em defaultCompletionOptions.

O Continue é um assistente de IA open source para VS Code e JetBrains. Ele acessa servidores compatíveis com a OpenAI pelo provedor openai com um apiBase personalizado, como mostra a documentação do provedor OpenAI do Continue. A BroadNet Inference se encaixa nesse padrão: mesmo formato de requisição, base URL e IDs de modelo diferentes.

Configuração

  1. Pegue uma chave da BroadNet no console. Veja chaves de API.
  2. Abra a configuração local. Ela fica em ~/.continue/config.yaml no macOS e no Linux e em %USERPROFILE%\.continue\config.yaml no Windows. Na IDE, abra o menu de configurações acima do campo do chat e clique no ícone de engrenagem ao lado de Local Config.
  3. Adicione os modelos.
name: My Config
version: 0.0.1
schema: v1
models:
  - name: BroadNet GLM 5.3
    provider: openai
    model: broadnet/glm-5.3
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    roles:
      - chat
      - edit
      - apply
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 1048576
      maxTokens: 8000
  - name: BroadNet Qwen3.8 27B
    provider: openai
    model: broadnet/qwen3.8-27b
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    capabilities:
      - tool_use
      - image_input
    defaultCompletionOptions:
      contextLength: 262144
      maxTokens: 8000
  1. Salve e escolha o modelo no seletor de modelos do painel do Continue.

Deixe o arquivo fora do controle de versão, porque ele guarda a chave.

O que cada campo faz

  • provider: openai faz o Continue enviar requisições padrão de chat completions.
  • apiBase substitui o endereço padrão da OpenAI. Não acrescente /chat/completions; o Continue adiciona o caminho.
  • capabilities sobrepõe a detecção automática do Continue. A referência dele diz que tool_use é necessário para o modo Agent e que image_input habilita o envio de imagens. O Continue não consegue detectar isso para IDs personalizados, então defina os dois.
  • contextLength e maxTokens ficam em defaultCompletionOptions. Na BroadNet, o raciocínio conta para maxTokens, então deixe folga.
  • roles tem como padrão chat, edit, apply e summarize. Deixamos autocomplete de fora: esses modelos raciocinam antes de responder, o que combina mais com chat e edições do que com autocompletar a cada tecla.

Qual modelo escolher

Uso Modelo Por quê
Chat e modo Agent broadnet/glm-5.3 Ferramentas e saída estruturada, contexto de 1M
Capturas de tela, árabe broadnet/qwen3.8-27b Ferramentas e entrada de imagem, contexto de 262K
Chats longos em um plano de preço fixo broadnet/deepseek-v4.1-flash Planos ilimitados, contexto de 1M; ferramentas não listadas

Para o DeepSeek V4.1 Flash, tire tool_use, a menos que um teste seu mostre que as chamadas de ferramenta funcionam, e defina contextLength: 1048576. Os preços de todos os modelos estão na página de preços. A página do modelo GLM 5.3 traz os limites dele.

Solução de problemas

  • 401. Confira apiKey. Uma chave de pagamento por uso errada, expirada ou sem cota devolve 401.
  • Erros de modelo na primeira requisição. model precisa ser o ID exato da BroadNet, com o prefixo broadnet/. GLM 5.3, Qwen3.8 27B e DeepSeek V4.1 Flash exigem uma recarga; o crédito inicial de $5 cobre o BroadNet Gemma 4 VL 26B e os dois modelos Transcribe.
  • Respostas vazias ou cortadas. Aumente maxTokens. Por que as respostas vêm vazias.
  • 429. Uma chave de pagamento por uso permite 30 requisições por minuto e 4 ao mesmo tempo. O modo Agent faz muitas chamadas seguidas; adicione backoff ao seu fluxo ou espace as execuções. Veja erros e novas tentativas.
  • Vários agentes ao mesmo tempo com uma chave de plano. Cada sessão de plano ilimitado roda uma requisição por vez. Dê a cada agente em paralelo a sua própria sessão.
  • Endpoint errado. A documentação do Continue cita useLegacyCompletionsEndpoint e useResponsesApi. Não ative a opção legacy; a BroadNet serve /v1/chat/completions. O Continue só usa /responses por padrão com os modelos o-series e GPT-5 da OpenAI, então os IDs da BroadNet usam chat completions sem configuração extra.

Perguntas frequentes

Onde fica o config.yaml do Continue?

O arquivo local fica em ~/.continue/config.yaml no macOS e no Linux e em %USERPROFILE%\.continue\config.yaml no Windows. Você também pode abri-lo pelo ícone de engrenagem ao lado de Local Config no menu de configurações.

Por que não consigo usar o modo Agent com meu modelo da BroadNet?

O Continue precisa da capability tool_use para o modo Agent. Adicione capabilities com tool_use na entrada do modelo e escolha um modelo que a BroadNet lista com ferramentas, como broadnet/glm-5.3.

Por que o Continue devolve uma resposta vazia?

O raciocínio gastou o maxTokens antes de a resposta começar. Aumente maxTokens em defaultCompletionOptions para alguns milhares.

Uso config.json ou config.yaml no Continue?

Use config.yaml. A documentação do Continue marca o config.json e a referência dele como obsoletos, e todos os exemplos atuais usam YAML com schema v1.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity