BroadRouter
开始使用

用 OpenAI Node.js SDK 调用 BroadNet Inference

更新于

安装 npm 上的 openai 包,创建客户端时把 baseURL 设为 https://inference.broadnet.ai/v1,apiKey 填你的 BroadNet 密钥。现有的 chat.completions 代码照常可用,只需换模型 ID,例如 broadnet/deepseek-v4.1-flash。BroadNet 提供对话补全,不提供 Responses API,所以请继续使用 client.chat.completions.create。

你需要一个来自 BroadNet Inference 账户的推理密钥。新账户自带 $5 额度,无需绑卡。如果你用的是 Python,请看 Python SDK 指南。

1. 安装并设置密钥

当前的 openai 包(7.x)需要 Node.js 22 或更高版本。

npm install openai
export BROADNET_API_KEY='paste-the-key-once'

2. 第一个请求

保存为 first-request.mjs,然后运行 node first-request.mjs:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

const response = await client.chat.completions.create({
  model: "broadnet/gemma-4-26b-a4b",
  messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);

broadnet/gemma-4-26b-a4b 可以用免费额度运行。不限量套餐的模型请使用 broadnet/deepseek-v4.1-flash,并把 max_tokens 设为 1,000 或更多,因为它的思考内容计入这个上限。为什么回答会是空的。

3. 流式输出 token

const stream = await client.chat.completions.create({
  model: "broadnet/deepseek-v4.1-flash",
  stream: true,
  stream_options: { include_usage: true },
  messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
  if (chunk.usage) console.log("\n", chunk.usage);
}

4. 记录请求 ID

const { data, request_id } = await client.chat.completions
  .create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
  .withResponse();
console.log(request_id, data.choices[0].message.content);

SDK 从 x-request-id 响应头读取 request_id。解析后的响应对象也会以 data._request_id 提供它。

请把这个 ID 和 UTC 时间、路由、状态码一起保存:BroadNet 的技术支持会要这些信息。错误码与何时重试。

故障排查

  • 401。 密钥错误、已过期,或者按量付费额度已用完。如果没有设置 BROADNET_API_KEY,apiKey 就是 undefined,SDK 会退回使用 OPENAI_API_KEY;如果那个也没有,就会抛出错误。
  • 404。 确认 baseURL 以 /v1 结尾,并且调用的是 chat.completions 而不是 responses。然后检查模型 ID 是否带 broadnet/ 前缀。
  • 新账户调用付费模型失败。 $5 初始额度可用于 BroadNet Gemma 4 VL 26B(broadnet/gemma-4-26b-a4b)和两个 BroadNet Transcribe 模型。其他对话模型(DeepSeek V4.1 Flash、GLM 5.3 和 Qwen3.8 27B)需要充值后才能使用。
  • content 为空。 思考内容计入 max_tokens。把它调高,或者干脆不设置。为什么回答会是空的。
  • 429。 按量付费密钥每分钟允许 30 个请求,同时最多 4 个。SDK 默认会重试两次;可以在客户端上调整 maxRetries。流中断的处理见流式对话补全。

常见问题

在 Node 里可以用环境变量设置 BroadNet 的 base URL 吗?

可以。没有传 baseURL 时 SDK 会读取 OPENAI_BASE_URL,没有传 apiKey 时会读取 OPENAI_API_KEY。两个都显式传入,可以避免不小心把 BroadNet 密钥发给 OpenAI,或者反过来。

client.responses.create 能在 BroadNet 上用吗?

不能。BroadNet 的文档只列出了对话补全和音频转写。对话请使用 client.chat.completions.create。

openai 包需要哪个版本的 Node.js?

当前的 7.x 版本要求 Node.js 22 或更高版本。也支持 Deno、Bun、Cloudflare Workers 和 Vercel Edge。

可以在浏览器里用 Node SDK 调用 BroadNet 吗?

不要这样做。除非设置 dangerouslyAllowBrowser,否则 SDK 会阻止在浏览器中使用,因为密钥会被下发给每一个访问者。请改为从你的服务器调用 BroadNet。

以 Markdown 格式阅读问 ChatGPT问 Claude问 Perplexity