---
title: "Jan 配置 OpenAI 兼容 API 的自定义端点 | BroadRouter"
description: "在 Jan 桌面应用中把 BroadNet Inference 添加为 OpenAI 兼容的自定义供应商，手动添加模型 ID，并为每个模型开启工具和视觉能力。"
url: https://broadrouter.com/zh/guides/jan-custom-endpoint/
lang: zh-Hans
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

本页由英文原文借助 AI 翻译。[阅读英文原文](https://broadrouter.com/guides/jan-custom-endpoint/)（2026-11-16 更新）。

# 在 Jan 中把 BroadNet Inference 添加为 OpenAI 兼容的自定义供应商

更新于 2026-11-16

在 Jan 中打开 Settings > Model Providers，点击 Add Provider。选择 OpenAI-compatible，命名为 BroadNet，把 Base URL 设为 https://inference.broadnet.ai/v1，粘贴你的 BroadNet 密钥。然后用 + 按钮手动添加聊天模型，例如 broadnet/glm-5.3，并在每个模型的能力设置中开启 Tools 或视觉。

Jan 是一个开源的桌面聊天应用，可以运行本地模型，也能连接云端 API。任何支持 OpenAI 格式的服务都可以作为**自定义供应商**添加。BroadNet Inference 在 `https://inference.broadnet.ai/v1` 上提供标准的 chat completions。BroadRouter 是 BroadNet 自己的网站；下面的步骤依据 Jan 0.8.8 时的 [Jan Custom Endpoints 页面](https://docs.jan.ai/desktop/remote-models/custom-endpoint)。

## 配置步骤

1.  **获取密钥。** 在 BroadNet 控制台创建一个按量付费密钥，或者购买按小时密钥或套餐。
    
2.  **打开对话框。** 进入 **Settings** > **Model Providers**，点击列表旁边的 **Add Provider** 按钮。
    
3.  **选择 API 格式。** 选择默认的 **OpenAI-compatible**。
    
4.  **填写信息：**
    
    | 字段 | 值 |
    | --- | --- |
    | Provider name | BroadNet |
    | Base URL | `https://inference.broadnet.ai/v1` |
    | API key | 你的 BroadNet 密钥 |
    
5.  点击 **Create**。
    
6.  **手动添加模型。** 在该供应商的 **Models** 区域点击 **+**，逐个准确填写聊天模型 ID，例如 `broadnet/glm-5.3`。
    
7.  **设置能力。** 点击每个模型旁边的铅笔图标，开启它支持的能力（见下表）。对于自定义供应商，Jan 无法自动识别这些能力。
    
8.  **测试。** 新建一个对话，在模型选择器中选中 BroadNet 模型，发一条简短的消息。
    

Jan 在保存时会请求 `https://inference.broadnet.ai/v1/models`。BroadNet 的文档把这个端点描述为供监控使用的目录元数据，我们在 2026 年 11 月 15 日检查时，它只列出了两个语音转写模型。这两个模型不能聊天；如果出现了，请删除。

## 模型 ID 和能力

| 模型 | ID | Tools | 图片 | 上下文 |
| --- | --- | --- | --- | --- |
| GLM 5.3 | `broadnet/glm-5.3` | 开 | 关 | 1,048,576 |
| Qwen3.8 27B | `broadnet/qwen3.8-27b` | 开 | 开 | 262,144 |
| DeepSeek V4.1 Flash | `broadnet/deepseek-v4.1-flash` | 关（BroadNet 未列出） | 开 | 1,048,576 |
| BroadNet Gemma 4 VL 26B | `broadnet/gemma-4-26b-a4b` | 关 | 开 | 32,768 |

`broadnet/gemma-4-26b-a4b` 是唯一能用 $5 初始额度运行的聊天模型，也是 BroadNet [按小时密钥](https://broadrouter.com/zh/blog/hourly-llm-api-key-explained/)背后的模型（$0.50 一小时，一个流）。其他模型需要先充值；DeepSeek V4.1 Flash 也可以用[不限量套餐](https://broadrouter.com/zh/guides/unlimited-llm-api-sessions/)。

## 值得修改的设置

-   **输出上限。** 其中三个模型会先思考再回答，思考内容计入 `max_tokens`。如果你为 BroadNet 模型设置了输出上限，请保持在 1,000 token 或以上。
-   **采样参数。** 对自定义供应商，Jan 会显示全部采样参数，它的文档也提醒，自定义端点可能会悄悄忽略不支持的采样参数。如果 min-P 之类的设置看起来不起作用，原因就在这里。
-   **备用密钥。** Jan 可以为每个供应商保存多个密钥，遇到 401、403 或 429 时会用下一个密钥重试。BroadNet 的[可接受使用政策](https://www.broadnet.ai/aup)禁止规避速率或并发限制，所以额外的密钥只能用于故障切换，不能用来叠加限额。

## 故障排查

-   **每个请求都返回 404。** Base URL 缺少 `/v1`。Jan 的文档说这是最常见的错误。
-   **401 或 403。** 密钥不对、已过期或额度已用完。**Test keys** 通过并不代表密钥可用，因为我们检查时 BroadNet 的 `/v1/models` 不带密钥也会响应。
-   **找不到模型。** 检查 ID，包括 `broadnet/` 前缀。付费模型需要先充值。
-   **回答为空。** 思考用完了输出预算。调高输出上限。[为什么回答会是空的](https://broadrouter.com/zh/guides/reasoning-tokens-empty-response/)。
-   **429。** 按量付费密钥每分钟允许 30 个请求，同时最多 4 个进行中的请求；按小时密钥同一时间只跑一个流。参见[错误码与重试](https://broadrouter.com/zh/guides/errors-and-retries/)。

## 本指南涉及的术语

[Base URL（base\_url）](https://broadrouter.com/zh/glossary/base-url/)

base URL 是 API 固定的根地址，例如 https://api.example.com/v1，客户端会把它加在每个端点路径（例如 /chat/completions）前面。在 OpenAI 兼容 SDK 中，修改 base URL，再配合 API 密钥和模型 ID，就能让同一份代码改用另一家服务商。

[按量付费（pay-as-you-go）](https://broadrouter.com/zh/glossary/pay-as-you-go/)

按量付费是一种计价模式：你只为实际用量付费，按 token、请求次数或音频分钟等单位计量，没有订阅费，也没有最低消费承诺。大多数大模型 API 都这样计费，从预付余额中扣减或定期开具账单。

[并发（concurrency）](https://broadrouter.com/zh/glossary/concurrency/)

并发（concurrency）是客户端在同一时刻正在进行中的请求数。大模型 API 往往按密钥或套餐单独限制并发，与每分钟请求数分开计算，因为每个未完成的请求在响应结束前都会占用 GPU 资源。

[大模型包月套餐（flat-rate LLM plan）](https://broadrouter.com/zh/glossary/flat-rate-llm-plan/)

大模型包月套餐（固定价格套餐）是按一个周期（如一个月）收取固定费用、提供大模型 API 使用权的计价方式，不按 token 计费。这类套餐通常会限制别的东西，如并发、速度、模型或使用时间窗口，所以限制条件和价格同样重要。

[工具调用（tool calling / function calling）](https://broadrouter.com/zh/glossary/tool-calling/)

工具调用（也叫函数调用，function calling）是大模型 API 的一项功能：模型返回一个结构化请求，要求执行开发者定义的某个函数，并附上 JSON 参数。应用执行该函数并把结果发回；模型自己从不执行代码。

[模型回退（model fallback）](https://broadrouter.com/zh/glossary/model-fallback/)

模型回退是一种可靠性模式：失败的 LLM 请求会按一个有序列表在另一个模型或服务商上重试。触发条件可以是错误、速率限制、上下文长度错误或内容策略拒绝。它运行在你的客户端里，或运行在 API 前面的网关中。

[速率限制（rate limit）](https://broadrouter.com/zh/glossary/rate-limit/)

速率限制是 API 对客户端在一个时间窗口内的使用量设定的上限，例如每分钟请求数或每分钟 token 数。超出限制的请求会被拒绝，通常返回 HTTP 429 Too Many Requests，直到用量回落到限制以下。

[语音转文字（speech-to-text）](https://broadrouter.com/zh/glossary/speech-to-text/)

语音转文字，也叫自动语音识别（ASR），是把口语音频转换成书面文字的技术。语音转文字 API 接收音频文件或音频流并返回转写文本，通常按音频分钟计价。准确率用词错误率衡量，会随口音、方言和录音质量变化。

## 常见问题

### 为什么添加 BroadNet 后 Jan 只显示语音转写模型？

Jan 在保存时会请求 https://inference.broadnet.ai/v1/models。我们在 2026 年 11 月 15 日检查时，BroadNet 公开的 /v1/models 只列出了两个语音转写模型，它们不能用于聊天。把它们删掉，手动添加聊天模型 ID。

### Jan 的 Test keys 按钮显示 OK，是不是说明密钥有效？

不一定。Jan 通过调用 /models 来测试密钥，而我们检查时 BroadNet 的 /v1/models 不带密钥也会响应。发一条聊天消息才能确认密钥可用。

### Jan 里能用 BroadNet 的按小时密钥吗？

能。按小时密钥运行的是 BroadNet Gemma 4 VL 26B，ID 为 broadnet/gemma-4-26b-a4b，同一时间一个流，适合单个聊天窗口。

### Jan 能识别 BroadNet 模型是否支持图片或工具吗？

不能。Jan 的文档说自定义供应商不会自动识别能力。请为 DeepSeek V4.1 Flash、Qwen3.8 27B 和 Gemma 4 VL 26B 开启图片输入，为 GLM 5.3 和 Qwen3.8 27B 开启 Tools。

## 相关指南

-   [把 Open WebUI 接入 BroadNet Inference](https://broadrouter.com/zh/guides/open-webui-openai-api/)
-   [把 BroadNet Inference 作为自定义端点添加到 LibreChat](https://broadrouter.com/zh/guides/librechat-custom-endpoint/)
-   [把 SillyTavern 接入 BroadNet Inference（自定义 OpenAI 兼容端点）](https://broadrouter.com/zh/guides/sillytavern-custom-openai-endpoint/)
-   [推理模型为什么返回空回答](https://broadrouter.com/zh/guides/reasoning-tokens-empty-response/)
-   [所有可与 BroadNet Inference 配合使用的工具（英文）](https://broadrouter.com/integrations/)：SDK、编程智能体、聊天界面和自动化工具，并附每个工具的具体设置

用你的真实业务负载试一试。新账户可获得 US$5 初始额度，用于 Gemma和转写。DeepSeek、GLM和Qwen3.8 需要先充值。

[开始使用](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-guides-jan-custom-endpoint&utm_content=page-cta) ·

**来源**

-   [Jan 文档：Custom Endpoints（核对于 2026-11-15）](https://docs.jan.ai/desktop/remote-models/custom-endpoint)
-   [GitHub 上的 Jan 发布页，最新版 v0.8.8（核对于 2026-11-15）](https://github.com/janhq/jan/releases)
-   [BroadNet 可接受使用政策（核对于 2026-11-15）（英文）](https://www.broadnet.ai/aup)
-   [BroadNet Inference API 参考文档（核对于 2026-11-15）（英文）](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=zh-guides-jan-custom-endpoint&utm_content=sources)
