你需要一个来自 BroadNet Inference 账户的推理密钥。新账户自带 $5 额度,无需绑卡。如果你用的是 Python,请看 Python SDK 指南。
1. 安装并设置密钥
当前的 openai 包(7.x)需要 Node.js 22 或更高版本。
npm install openai
export BROADNET_API_KEY='paste-the-key-once'
2. 第一个请求
保存为 first-request.mjs,然后运行 node first-request.mjs:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
const response = await client.chat.completions.create({
model: "broadnet/gemma-4-26b-a4b",
messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);
broadnet/gemma-4-26b-a4b 可以用免费额度运行。不限量套餐的模型请使用 broadnet/deepseek-v4.1-flash,并把 max_tokens 设为 1,000 或更多,因为它的思考内容计入这个上限。为什么回答会是空的。
3. 流式输出 token
const stream = await client.chat.completions.create({
model: "broadnet/deepseek-v4.1-flash",
stream: true,
stream_options: { include_usage: true },
messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
if (chunk.usage) console.log("\n", chunk.usage);
}
4. 记录请求 ID
const { data, request_id } = await client.chat.completions
.create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
.withResponse();
console.log(request_id, data.choices[0].message.content);
SDK 从 x-request-id 响应头读取 request_id。解析后的响应对象也会以 data._request_id 提供它。
请把这个 ID 和 UTC 时间、路由、状态码一起保存:BroadNet 的技术支持会要这些信息。错误码与何时重试。
故障排查
- 401。 密钥错误、已过期,或者按量付费额度已用完。如果没有设置
BROADNET_API_KEY,apiKey就是undefined,SDK 会退回使用OPENAI_API_KEY;如果那个也没有,就会抛出错误。 - 404。 确认
baseURL以/v1结尾,并且调用的是chat.completions而不是responses。然后检查模型 ID 是否带broadnet/前缀。 - 新账户调用付费模型失败。 $5 初始额度可用于 BroadNet Gemma 4 VL 26B(
broadnet/gemma-4-26b-a4b)和两个 BroadNet Transcribe 模型。其他对话模型(DeepSeek V4.1 Flash、GLM 5.3 和 Qwen3.8 27B)需要充值后才能使用。 content为空。 思考内容计入max_tokens。把它调高,或者干脆不设置。为什么回答会是空的。- 429。 按量付费密钥每分钟允许 30 个请求,同时最多 4 个。SDK 默认会重试两次;可以在客户端上调整
maxRetries。流中断的处理见流式对话补全。
