BroadNet Inference のアカウントで発行した推論キーが必要です。新規アカウントは $5 のクレジット付きで始まり、カードは不要です。Python を使う場合は Python SDK のガイドを参照してください。
1. インストールとキーの設定
現在の openai パッケージ(7.x)には Node.js 22 以上が必要です。
npm install openai
export BROADNET_API_KEY='paste-the-key-once'
2. 最初のリクエスト
first-request.mjs として保存し、node first-request.mjs で実行します。
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
const response = await client.chat.completions.create({
model: "broadnet/gemma-4-26b-a4b",
messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);
broadnet/gemma-4-26b-a4b は無料クレジットで使えます。無制限プランのモデルを使うなら broadnet/deepseek-v4.1-flash を指定し、max_tokens を 1,000 以上にしてください。推論も上限に数えられるためです。回答が空で返る理由。
3. トークンをストリーミングする
const stream = await client.chat.completions.create({
model: "broadnet/deepseek-v4.1-flash",
stream: true,
stream_options: { include_usage: true },
messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
if (chunk.usage) console.log("\n", chunk.usage);
}
4. リクエスト ID を記録する
const { data, request_id } = await client.chat.completions
.create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
.withResponse();
console.log(request_id, data.choices[0].message.content);
SDK は request_id を x-request-id ヘッダーから読み取ります。パース済みのレスポンスにも data._request_id として入っています。
この ID は、UTC の時刻、ルート、ステータスと一緒に残してください。BroadNet のサポートに求められます。エラーコードとリトライすべき場合。
トラブルシューティング
- 401。 キーが間違っている、期限切れ、または従量課金の利用枠を使い切っています。
BROADNET_API_KEYが未設定だとapiKeyはundefinedになり、SDK はOPENAI_API_KEYを使います。それもなければ例外を投げます。 - 404。
baseURLが/v1で終わっているか、responsesではなくchat.completionsを呼んでいるかを確認してください。次に、broadnet/接頭辞を含むモデル ID を確認してください。 - 新しいアカウントで有料モデルが失敗する。 $5 の初回クレジットで使えるのは BroadNet Gemma 4 VL 26B(
broadnet/gemma-4-26b-a4b)と 2 つの BroadNet Transcribe モデルです。ほかのチャットモデル(DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B)を使うにはチャージしてください。 contentが空。 推論はmax_tokensに数えられます。上げるか、指定しないでください。回答が空で返る理由。- 429。 従量課金のキーは毎分 30 リクエスト、同時 4 リクエストまでです。SDK はデフォルトで 2 回リトライします。クライアントの
maxRetriesで調整してください。途中で切れたストリームについては chat completions のストリーミングを参照してください。
