BroadRouter
始める

OpenAI Node.js SDK を BroadNet Inference で使う

更新日

npm の openai パッケージをインストールし、baseURL を https://inference.broadnet.ai/v1、apiKey を BroadNet のキーにしてクライアントを作成します。既存の chat.completions のコードはそのまま動き、変えるのはモデル ID(例:broadnet/deepseek-v4.1-flash)だけです。BroadNet は Responses API ではなくチャット補完を提供しているので、client.chat.completions.create を使い続けてください。

BroadNet Inference のアカウントで発行した推論キーが必要です。新規アカウントは $5 のクレジット付きで始まり、カードは不要です。Python を使う場合は Python SDK のガイドを参照してください。

1. インストールとキーの設定

現在の openai パッケージ(7.x)には Node.js 22 以上が必要です。

npm install openai
export BROADNET_API_KEY='paste-the-key-once'

2. 最初のリクエスト

first-request.mjs として保存し、node first-request.mjs で実行します。

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

const response = await client.chat.completions.create({
  model: "broadnet/gemma-4-26b-a4b",
  messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);

broadnet/gemma-4-26b-a4b は無料クレジットで使えます。無制限プランのモデルを使うなら broadnet/deepseek-v4.1-flash を指定し、max_tokens を 1,000 以上にしてください。推論も上限に数えられるためです。回答が空で返る理由。

3. トークンをストリーミングする

const stream = await client.chat.completions.create({
  model: "broadnet/deepseek-v4.1-flash",
  stream: true,
  stream_options: { include_usage: true },
  messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
  if (chunk.usage) console.log("\n", chunk.usage);
}

4. リクエスト ID を記録する

const { data, request_id } = await client.chat.completions
  .create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
  .withResponse();
console.log(request_id, data.choices[0].message.content);

SDK は request_id を x-request-id ヘッダーから読み取ります。パース済みのレスポンスにも data._request_id として入っています。

この ID は、UTC の時刻、ルート、ステータスと一緒に残してください。BroadNet のサポートに求められます。エラーコードとリトライすべき場合。

トラブルシューティング

  • 401。 キーが間違っている、期限切れ、または従量課金の利用枠を使い切っています。BROADNET_API_KEY が未設定だと apiKey は undefined になり、SDK は OPENAI_API_KEY を使います。それもなければ例外を投げます。
  • 404。 baseURL が /v1 で終わっているか、responses ではなく chat.completions を呼んでいるかを確認してください。次に、broadnet/ 接頭辞を含むモデル ID を確認してください。
  • 新しいアカウントで有料モデルが失敗する。 $5 の初回クレジットで使えるのは BroadNet Gemma 4 VL 26B(broadnet/gemma-4-26b-a4b)と 2 つの BroadNet Transcribe モデルです。ほかのチャットモデル(DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B)を使うにはチャージしてください。
  • content が空。 推論は max_tokens に数えられます。上げるか、指定しないでください。回答が空で返る理由。
  • 429。 従量課金のキーは毎分 30 リクエスト、同時 4 リクエストまでです。SDK はデフォルトで 2 回リトライします。クライアントの maxRetries で調整してください。途中で切れたストリームについては chat completions のストリーミングを参照してください。

よくある質問

Node で BroadNet のベース URL を環境変数で設定できますか?

はい。SDK は、baseURL を渡さなければ OPENAI_BASE_URL を、apiKey を渡さなければ OPENAI_API_KEY を読みます。両方を明示的に渡しておくと、BroadNet のキーを誤って OpenAI に送ったり、その逆が起きたりするのを防げます。

client.responses.create は BroadNet で動きますか?

いいえ。BroadNet のドキュメントにあるのはチャット補完と音声の文字起こしだけです。チャットには client.chat.completions.create を使ってください。

openai パッケージに必要な Node.js のバージョンは?

現在の 7.x リリースは Node.js 22 以上を要件としています。Deno、Bun、Cloudflare Workers、Vercel Edge にも対応しています。

Node SDK でブラウザーから BroadNet を呼び出せますか?

やめてください。キーがすべての訪問者に配布されてしまうため、SDK は dangerouslyAllowBrowser を設定しない限りブラウザーでの利用をブロックします。BroadNet はサーバーから呼び出してください。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く