BroadRouter

在 Langflow 中接入 BroadNet Inference

更新于

在 Langflow 中,从 OpenAI 组件包添加 OpenAI 组件,在 Model Name 中输入 BroadNet 模型 ID(例如 broadnet/glm-5.3),粘贴 BroadNet 密钥,并在高级设置里把 OpenAI API Base 设为 https://inference.broadnet.ai/v1。不要用 OpenAI Compatible 模型服务商:它从 /v1/models 获取模型列表,而 BroadNet 的列表里只有转写模型。

Langflow 是一个开源的可视化工具,用来搭建 agent 和 RAG 流程。它的 OpenAI 组件有一个 OpenAI API Base 字段,用组件自己的话说,可以用来“use other APIs”(译文:使用其他 API)。BroadNet Inference 在 https://inference.broadnet.ai/v1 上提供 chat completions,所以只要手动填入 BroadNet 模型 ID,这个组件就能用。BroadRouter 是 BroadNet 自己的网站;本文依据的是 Langflow 1.13.x 文档和 v1.13.2 中该组件的源码。

配置步骤

  1. 添加组件。 在流程中打开组件面板,从 OpenAI 组件包中添加 OpenAI。Langflow 1.13.2 会随主程序包一起安装这个组件包。

  2. Model Name。 点击该字段,输入 broadnet/glm-5.3。它接受自定义值,所以不局限于列表里的 OpenAI 模型。

  3. OpenAI API Key。 粘贴你的 BroadNet 密钥,或者选择一个保存了该密钥的全局变量。

  4. 高级设置。 打开组件的控制项,设置:

    字段 值
    OpenAI API Base https://inference.broadnet.ai/v1
    Max Tokens 4000
  5. 运行。 连接 Chat Input 和 Chat Output,打开 Playground 发送一条消息。收到回复就说明设置正确。

可能拦住 BroadNet 的两项 Langflow 检查

Langflow 1.13 默认开启 SSRF 防护,其中有两条规则需要注意:

  • 来自服务器环境的密钥。 如果 API 密钥来自服务器环境(例如从环境变量加载的全局变量),Langflow 会拒绝把它发送到非默认端点,除非该主机在允许列表中。运维人员需要设置:

    export LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS=inference.broadnet.ai

    直接在组件里输入的密钥不受影响。

  • 私有地址。 回环地址和私有 IP 会被拦截,除非它们在 LANGFLOW_SSRF_ALLOWED_HOSTS 中。BroadNet 是公网 HTTPS 主机,所以只有通过本地代理转发时才需要关心这一条。

为什么不用 OpenAI Compatible 服务商?

Langflow 1.13 在 Settings → Model Providers 下还有一个 OpenAI Compatible 模型服务商。它的文档说,它会用端点的 /v1/models 路由验证连接,并提供它找到的模型。我们在 2026 年 11 月 16 日核对时,BroadNet 的 /v1/models 只列出了 broadnet/cohere-transcribe-arabic 和 broadnet/cohere-transcribe,所以在那里选不到对话模型。OpenAI 组件可以手动填写模型名,就绕开了这个问题。

选哪个模型

流程 模型
带工具的 Agent 组件 broadnet/glm-5.3
含图片或阿拉伯语文本、需要工具的流程 broadnet/qwen3.8-27b
长文档流程,固定价格套餐 broadnet/deepseek-v4.1-flash
用初始额度试用 Langflow broadnet/gemma-4-26b-a4b(32,768 token 上下文)

BroadNet 的文档只为 GLM 5.3 和 Qwen3.8 27B 列出了工具和结构化输出。组件的 JSON Mode 会发送 response_format: {"type": "json_object"},请配合这两个模型使用。所有模型的价格。

我们是怎么测试的

我们没有运行 Langflow 界面。2026-11-15,我们安装了 lfx 1.13.2 和 lfx-openai 组件包(其中 OpenAI 组件文件与 v1.13.2 源码一致),并在 Python 中构建该组件,指向一个模拟 BroadNet chat completions 格式的本地 mock 服务器。在手动输入密钥、并为本地 mock 设置了 LANGFLOW_SSRF_ALLOWED_HOSTS 的情况下,请求发到了 /v1/chat/completions,模型 ID broadnet/glm-5.3 原样未变,带 Bearer 密钥、temperature: 0.1 和一个 seed。Max Tokens 的值以 max_completion_tokens 发送;而 BroadNet 的 API 参考文档描述的是 max_tokens。从服务器环境复制来的密钥一直被拒绝,直到我们同时设置了 LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS。我们没有 BroadNet 密钥,因此没有测试真实的模型输出。

故障排查

  • “Refusing to send a server-provisioned API credential”(拒绝发送服务器提供的 API 凭据)。 把 inference.broadnet.ai 加入 LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS,或者在组件中直接输入密钥。
  • 401。 密钥错误、已过期,或者额度已用完。
  • 404。 OpenAI API Base 必须以 /v1 结尾,Model Name 必须与 BroadNet 的 ID 完全一致。付费模型需要先充值;$5 初始额度只覆盖 broadnet/gemma-4-26b-a4b 和两个 Transcribe 模型。
  • 回复为空。 在 DeepSeek V4.1 Flash、GLM 5.3 和 Qwen3.8 27B 上,思考内容计入输出上限。调高 Max Tokens。为什么回答会是空的。
  • 429。 按量付费密钥每分钟允许 30 个请求,同时最多 4 个进行中的请求。参见错误码与重试。

常见问题

为什么 Langflow 的 OpenAI Compatible 服务商里看不到 GLM 5.3 或 Qwen?

Langflow 的文档说明,该服务商从端点的 /v1/models 路由发现模型。我们在 2026 年 11 月 16 日核对时,BroadNet 的 /v1/models 只列出了两个转写模型,所以对话模型永远不会出现。请改用 OpenAI 组件并手动输入模型名。

OpenAI 组件里能填列表中没有的模型吗?

可以。Model Name 是一个 combobox,在 Langflow 的输入定义中,这意味着用户可以输入自定义值。填写完整的 BroadNet ID,例如 broadnet/glm-5.3。

为什么 Langflow 拒绝把我的密钥发给 BroadNet?

Langflow 1.13 不会把来自服务器环境的 API 密钥发送到自定义端点,除非运维人员放行了该主机。设置 LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS=inference.broadnet.ai,或者直接把密钥粘贴到组件里。

Langflow 的 OpenAI 组件会用 Responses API 吗?

不会。它构建的是 LangChain 的 ChatOpenAI,普通请求调用的是 chat completions。在我们的测试中,它调用的是 /v1/chat/completions。

以 Markdown 格式阅读问 ChatGPT问 Claude问 Perplexity