BroadRouter
Начать

Continue и BroadNet Inference: config.yaml и apiBase

Обновлено

В ~/.continue/config.yaml добавьте модель с provider openai, в model укажите ID BroadNet, например broadnet/glm-5.3, в apiBase — https://inference.broadnet.ai/v1, в apiKey — ваш ключ BroadNet. Для режима Agent добавьте capabilities tool_use, а contextLength и maxTokens задайте в defaultCompletionOptions.

Continue — ИИ-ассистент с открытым исходным кодом для VS Code и JetBrains. К OpenAI-совместимым серверам он подключается через провайдера openai с переопределённым apiBase, как показано в документации Continue по провайдеру OpenAI. BroadNet Inference вписывается в эту схему: формат запросов тот же, отличаются базовый URL и ID моделей.

Настройка

  1. Получите ключ BroadNet в консоли. См. API-ключи.
  2. Откройте локальную конфигурацию. Она лежит в ~/.continue/config.yaml на macOS и Linux и в %USERPROFILE%\.continue\config.yaml в Windows. В IDE откройте выпадающий список конфигураций над полем ввода чата и нажмите на значок шестерёнки рядом с Local Config.
  3. Добавьте модели.
name: My Config
version: 0.0.1
schema: v1
models:
  - name: BroadNet GLM 5.3
    provider: openai
    model: broadnet/glm-5.3
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    roles:
      - chat
      - edit
      - apply
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 1048576
      maxTokens: 8000
  - name: BroadNet Qwen3.8 27B
    provider: openai
    model: broadnet/qwen3.8-27b
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    capabilities:
      - tool_use
      - image_input
    defaultCompletionOptions:
      contextLength: 262144
      maxTokens: 8000
  1. Сохраните файл и выберите модель в селекторе моделей на панели Continue.

Не добавляйте этот файл в систему контроля версий: в нём хранится ключ.

Что делают поля

  • provider: openai заставляет Continue отправлять стандартные запросы chat completions.
  • apiBase заменяет адрес OpenAI по умолчанию. Не добавляйте /chat/completions: Continue дописывает путь сам.
  • capabilities переопределяет автоопределение Continue. В справочнике сказано, что tool_use обязателен для режима Agent, а image_input включает загрузку изображений. Для собственных ID Continue не может определить их сам, поэтому задайте их явно.
  • contextLength и maxTokens находятся в defaultCompletionOptions. В BroadNet рассуждения учитываются в maxTokens, поэтому оставьте запас.
  • roles по умолчанию — chat, edit, apply и summarize. Мы не включили autocomplete: эти модели рассуждают перед ответом, и это лучше подходит для чата и правок, чем для автодополнения на каждое нажатие клавиши.

Какую модель выбрать

Задача Модель Почему
Чат и режим Agent broadnet/glm-5.3 Инструменты и структурированный вывод, контекст 1M
Скриншоты, арабский broadnet/qwen3.8-27b Инструменты и ввод изображений, контекст 262K
Долгие чаты на тарифе с фиксированной ценой broadnet/deepseek-v4.1-flash Безлимитные тарифы, контекст 1M; инструменты не указаны

Для DeepSeek V4.1 Flash уберите tool_use, если ваш собственный тест не покажет, что вызовы инструментов работают, и задайте contextLength: 1048576. Цены на все модели — на странице цен. Лимиты GLM 5.3 — на странице модели GLM 5.3.

Решение проблем

  • 401. Проверьте apiKey. Неверный, истёкший или исчерпавший лимит ключ с оплатой по факту возвращает 401.
  • Ошибки модели при первом запросе. model должен точно совпадать с ID BroadNet, вместе с префиксом broadnet/. Для GLM 5.3, Qwen3.8 27B и DeepSeek V4.1 Flash нужно пополнить баланс; стартовый грант $5 покрывает только BroadNet Gemma 4 VL 26B.
  • Пустые или оборванные ответы. Увеличьте maxTokens. Почему ответы приходят пустыми.
  • 429. Ключ с оплатой по факту допускает 30 запросов в минуту и 4 одновременно. Режим Agent делает много вызовов подряд; добавьте экспоненциальную задержку в свой процесс или разнесите запуски по времени. См. ошибки и повторные запросы.
  • Несколько агентов одновременно на ключе тарифа. Каждая сессия безлимитного тарифа обрабатывает один запрос за раз. Дайте каждому параллельному агенту свою сессию.
  • Не тот эндпоинт. В документации Continue упоминаются useLegacyCompletionsEndpoint и useResponsesApi. Не включайте устаревший вариант: BroadNet обслуживает /v1/chat/completions. Continue по умолчанию использует /responses только для моделей OpenAI серии o и GPT-5, поэтому ID BroadNet работают через chat completions без дополнительных настроек.

Вопросы и ответы

Где находится config.yaml в Continue?

Локальный файл лежит в ~/.continue/config.yaml на macOS и Linux и в %USERPROFILE%\.continue\config.yaml в Windows. Его также можно открыть значком шестерёнки рядом с Local Config в выпадающем списке конфигураций.

Почему режим Agent не работает с моей моделью BroadNet?

Для режима Agent Continue нужна capability tool_use. Добавьте в описание модели capabilities с tool_use и выберите модель, для которой BroadNet указывает инструменты, например broadnet/glm-5.3.

Почему Continue возвращает пустой ответ?

Рассуждения израсходовали maxTokens ещё до начала ответа. Увеличьте maxTokens в defaultCompletionOptions до нескольких тысяч.

Что использовать в Continue: config.json или config.yaml?

Используйте config.yaml. Документация Continue помечает config.json и его справочник как устаревшие, а все актуальные примеры написаны на YAML со schema v1.

Открыть в MarkdownСпросить ChatGPTСпросить ClaudeСпросить Perplexity