BroadRouter
Loslegen

OpenAI Node.js SDK mit BroadNet Inference nutzen

Aktualisiert

Installieren Sie das npm-Paket openai und erstellen Sie den Client mit baseURL = https://inference.broadnet.ai/v1 und Ihrem BroadNet-Schlüssel als apiKey. Ihr bestehender chat.completions-Code läuft weiter; ändern Sie nur die Modell-ID, etwa broadnet/deepseek-v4.1-flash. BroadNet bietet Chat Completions, nicht die Responses API, also bleiben Sie bei client.chat.completions.create.

Sie brauchen einen Inferenz-Schlüssel aus Ihrem Konto bei BroadNet Inference. Neue Konten starten mit $5 Guthaben, ohne Karte. Wenn Sie stattdessen Python verwenden, lesen Sie die Anleitung zum Python SDK.

1. Installieren und Schlüssel setzen

Das aktuelle Paket openai (7.x) erfordert Node.js 22 oder neuer.

npm install openai
export BROADNET_API_KEY='paste-the-key-once'

2. Erste Anfrage

Speichern Sie dies als first-request.mjs und starten Sie es mit node first-request.mjs:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

const response = await client.chat.completions.create({
  model: "broadnet/gemma-4-26b-a4b",
  messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);

broadnet/gemma-4-26b-a4b läuft mit dem kostenlosen Guthaben. Für das Modell des unbegrenzten Plans nehmen Sie broadnet/deepseek-v4.1-flash und setzen max_tokens auf 1.000 oder mehr, weil sein Reasoning zum Limit zählt. Warum Antworten leer zurückkommen.

3. Tokens streamen

const stream = await client.chat.completions.create({
  model: "broadnet/deepseek-v4.1-flash",
  stream: true,
  stream_options: { include_usage: true },
  messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
  if (chunk.usage) console.log("\n", chunk.usage);
}

4. Die Request-ID loggen

const { data, request_id } = await client.chat.completions
  .create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
  .withResponse();
console.log(request_id, data.choices[0].message.content);

Das SDK liest request_id aus dem Header x-request-id. Geparste Antworten enthalten sie außerdem als data._request_id.

Bewahren Sie diese ID zusammen mit Uhrzeit (UTC), Route und Status auf, denn der Support von BroadNet fragt danach. Fehlercodes und wann ein Retry sinnvoll ist.

Fehlerbehebung

  • 401. Der Schlüssel ist falsch, abgelaufen oder das Pay-as-you-go-Kontingent ist aufgebraucht. Ist BROADNET_API_KEY nicht gesetzt, ist apiKey gleich undefined, und das SDK greift auf OPENAI_API_KEY zurück oder wirft einen Fehler, wenn auch diese Variable fehlt.
  • 404. Prüfen Sie, ob baseURL auf /v1 endet und ob Sie chat.completions aufrufen, nicht responses. Prüfen Sie danach die Modell-ID mit dem Präfix broadnet/.
  • Kostenpflichtiges Modell schlägt bei einem neuen Konto fehl. Das Startguthaben von $5 deckt BroadNet Gemma 4 VL 26B (broadnet/gemma-4-26b-a4b) und die beiden Modelle von BroadNet Transcribe ab. Laden Sie auf, um die anderen Chatmodelle zu nutzen: DeepSeek V4.1 Flash, GLM 5.3 und Qwen3.8 27B.
  • Leeres content. Reasoning zählt zu max_tokens. Erhöhen Sie den Wert oder lassen Sie ihn ungesetzt. Warum Antworten leer zurückkommen.
  • 429. Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig. Das SDK versucht es standardmäßig zweimal erneut; passen Sie maxRetries am Client an. Zu abgebrochenen Streams siehe Chat Completions streamen.

Häufige Fragen

Kann ich die Basis-URL von BroadNet in Node per Umgebungsvariable setzen?

Ja. Das SDK liest OPENAI_BASE_URL, wenn Sie keine baseURL übergeben, und OPENAI_API_KEY, wenn Sie keinen apiKey übergeben. Wenn Sie beides explizit setzen, senden Sie nicht versehentlich einen BroadNet-Schlüssel an OpenAI oder umgekehrt.

Funktioniert client.responses.create mit BroadNet?

Nein. Die Dokumentation von BroadNet nennt nur Chat Completions und Audio-Transkription. Verwenden Sie für Chat client.chat.completions.create.

Welche Node.js-Version braucht das Paket openai?

Das aktuelle Release 7.x setzt Node.js 22 oder neuer voraus. Deno, Bun, Cloudflare Workers und Vercel Edge werden ebenfalls unterstützt.

Kann ich BroadNet mit dem Node SDK aus dem Browser aufrufen?

Lassen Sie es. Das SDK blockiert die Nutzung im Browser, solange Sie nicht dangerouslyAllowBrowser setzen, denn der Schlüssel würde an jeden Besucher ausgeliefert. Rufen Sie BroadNet stattdessen von Ihrem Server aus auf.

Als Markdown lesenChatGPT fragenClaude fragenPerplexity fragen