BroadRouter

Langflow и BroadNet Inference: компонент OpenAI

Обновлено

В Langflow добавьте компонент OpenAI из бандла OpenAI. Введите в Model Name ID модели BroadNet, например broadnet/glm-5.3, вставьте ключ BroadNet, а в расширенных настройках задайте OpenAI API Base https://inference.broadnet.ai/v1. Провайдер моделей OpenAI Compatible не подходит: он берёт список моделей из /v1/models, а там у BroadNet только модели транскрибации.

Langflow — open-source визуальный конструктор агентов и RAG-флоу. У его компонента OpenAI есть поле OpenAI API Base, которое, по описанию самого компонента, позволяет “use other APIs” (перевод: «использовать другие API»). BroadNet Inference отдаёт chat completions по адресу https://inference.broadnet.ai/v1, так что этот компонент работает, если ввести ID модели BroadNet вручную. BroadRouter — собственный сайт BroadNet; руководство основано на документации Langflow 1.13.x и исходном коде компонента в v1.13.2.

Настройка

  1. Добавьте компонент. Во флоу откройте панель компонентов и добавьте OpenAI из бандла OpenAI. Langflow 1.13.2 устанавливает этот бандл вместе с основным пакетом.

  2. Model Name. Нажмите на поле и введите broadnet/glm-5.3. Поле принимает произвольные значения, так что вы не ограничены моделями OpenAI из списка.

  3. OpenAI API Key. Вставьте ключ BroadNet или выберите глобальную переменную, в которой он хранится.

  4. Расширенные настройки. Откройте настройки компонента и задайте:

    Поле Значение
    OpenAI API Base https://inference.broadnet.ai/v1
    Max Tokens 4000
  5. Запустите. Подключите Chat Input и Chat Output, откройте Playground и отправьте сообщение. Если пришёл ответ, всё настроено верно.

Две проверки Langflow, которые могут заблокировать BroadNet

В Langflow 1.13 защита от SSRF включена по умолчанию. Важны два правила:

  • Ключи из окружения сервера. Если API-ключ берётся из окружения сервера (например, глобальная переменная загружена из переменной окружения), Langflow не отправит его на нестандартный эндпоинт, пока хост не добавлен в разрешённые. Оператор задаёт:

    export LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS=inference.broadnet.ai

    Ключа, введённого прямо в компонент, это не касается.

  • Частные адреса. Loopback и частные IP-адреса блокируются, если их нет в LANGFLOW_SSRF_ALLOWED_HOSTS. BroadNet — публичный HTTPS-хост, так что это важно, только если вы пускаете запросы через локальный прокси.

Почему не провайдер OpenAI Compatible?

В Langflow 1.13 есть ещё провайдер моделей OpenAI Compatible в разделе Settings → Model Providers. Согласно документации, он проверяет подключение через маршрут /v1/models эндпоинта и предлагает найденные там модели. Когда мы проверяли 16 ноября 2026 года, /v1/models у BroadNet перечислял только broadnet/cohere-transcribe-arabic и broadnet/cohere-transcribe, поэтому чат-модели там выбрать нельзя. Ручной ввод имени модели в компоненте OpenAI обходит эту проблему.

Какую модель выбрать

Флоу Модель
Компонент Agent с инструментами broadnet/glm-5.3
Флоу с изображениями или арабским текстом, с инструментами broadnet/qwen3.8-27b
Флоу с длинными документами, тариф с фиксированной ценой broadnet/deepseek-v4.1-flash
Знакомство с Langflow на стартовом гранте broadnet/gemma-4-26b-a4b (контекст 32 768 токенов)

Документация BroadNet указывает инструменты и структурированный вывод только для GLM 5.3 и Qwen3.8 27B. Режим JSON Mode компонента отправляет response_format: {"type": "json_object"}; используйте его с этими двумя моделями. Цены на все модели.

Как мы это проверяли

Интерфейс Langflow мы не запускали. 15 ноября 2026 г. мы установили lfx 1.13.2 и бандл lfx-openai, файл компонента OpenAI в котором совпадает с исходным кодом v1.13.2, и собрали компонент в Python против локального mock-сервера, который отвечает в формате chat completions BroadNet. С ключом, введённым вручную, и LANGFLOW_SSRF_ALLOWED_HOSTS, настроенным для локального mock-сервера, запрос ушёл на /v1/chat/completions с неизменённым ID модели broadnet/glm-5.3, Bearer-ключом, temperature: 0.1 и seed. Значение Max Tokens было отправлено как max_completion_tokens, а справочник API BroadNet описывает max_tokens. Ключ, скопированный из окружения сервера, отклонялся, пока мы не задали ещё и LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS. Ключа BroadNet у нас не было, поэтому реальные ответы модели мы не проверяли.

Решение проблем

  • «Refusing to send a server-provisioned API credential». Добавьте inference.broadnet.ai в LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS или введите ключ прямо в компонент.
  • 401. Ключ неверный, истёк или исчерпал лимит.
  • 404. OpenAI API Base должен заканчиваться на /v1, а Model Name — точно совпадать с ID BroadNet. Для платных моделей нужно пополнить баланс; стартовый грант $5 покрывает только broadnet/gemma-4-26b-a4b и две модели Transcribe.
  • Пустые ответы. У DeepSeek V4.1 Flash, GLM 5.3 и Qwen3.8 27B рассуждения учитываются в лимите вывода. Увеличьте Max Tokens. Почему ответы приходят пустыми.
  • 429. Ключ с оплатой по факту допускает 30 запросов в минуту и не больше 4 одновременно. См. ошибки и повторные запросы.

Вопросы и ответы

Почему провайдер OpenAI Compatible в Langflow не показывает GLM 5.3 или Qwen?

По документации Langflow этот провайдер находит модели через маршрут /v1/models эндпоинта. Когда мы проверяли 16 ноября 2026 года, /v1/models у BroadNet перечислял только две модели транскрибации, поэтому чат-моделей там нет. Используйте компонент OpenAI и введите имя модели вручную.

Можно ли указать модель, которой нет в списке компонента OpenAI?

Да. Model Name — это combobox, а в определениях входов Langflow это значит, что пользователь может ввести своё значение. Введите полный ID BroadNet, например broadnet/glm-5.3.

Почему Langflow отказывается отправлять мой ключ в BroadNet?

Langflow 1.13 не отправляет API-ключ из окружения сервера на пользовательский эндпоинт, пока оператор не разрешит этот хост. Задайте LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS=inference.broadnet.ai или вставьте ключ прямо в компонент.

Использует ли компонент OpenAI в Langflow Responses API?

Нет. Он создаёт ChatOpenAI из LangChain, который для обычных запросов вызывает chat completions. В нашем тесте запросы шли на /v1/chat/completions.

Открыть в MarkdownСпросить ChatGPTСпросить ClaudeСпросить Perplexity