Sie brauchen einen Inferenz-Schlüssel aus Ihrem Konto bei BroadNet Inference. Neue Konten starten mit $5 Guthaben, ohne Karte. Wenn Sie stattdessen Python verwenden, lesen Sie die Anleitung zum Python SDK.
1. Installieren und Schlüssel setzen
Das aktuelle Paket openai (7.x) erfordert Node.js 22 oder neuer.
npm install openai
export BROADNET_API_KEY='paste-the-key-once'
2. Erste Anfrage
Speichern Sie dies als first-request.mjs und starten Sie es mit node first-request.mjs:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
const response = await client.chat.completions.create({
model: "broadnet/gemma-4-26b-a4b",
messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);
broadnet/gemma-4-26b-a4b läuft mit dem kostenlosen Guthaben. Für das Modell des unbegrenzten Plans nehmen Sie broadnet/deepseek-v4.1-flash und setzen max_tokens auf 1.000 oder mehr, weil sein Reasoning zum Limit zählt. Warum Antworten leer zurückkommen.
3. Tokens streamen
const stream = await client.chat.completions.create({
model: "broadnet/deepseek-v4.1-flash",
stream: true,
stream_options: { include_usage: true },
messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
if (chunk.usage) console.log("\n", chunk.usage);
}
4. Die Request-ID loggen
const { data, request_id } = await client.chat.completions
.create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
.withResponse();
console.log(request_id, data.choices[0].message.content);
Das SDK liest request_id aus dem Header x-request-id. Geparste Antworten enthalten sie außerdem als data._request_id.
Bewahren Sie diese ID zusammen mit Uhrzeit (UTC), Route und Status auf, denn der Support von BroadNet fragt danach. Fehlercodes und wann ein Retry sinnvoll ist.
Fehlerbehebung
- 401. Der Schlüssel ist falsch, abgelaufen oder das Pay-as-you-go-Kontingent ist aufgebraucht. Ist
BROADNET_API_KEYnicht gesetzt, istapiKeygleichundefined, und das SDK greift aufOPENAI_API_KEYzurück oder wirft einen Fehler, wenn auch diese Variable fehlt. - 404. Prüfen Sie, ob
baseURLauf/v1endet und ob Siechat.completionsaufrufen, nichtresponses. Prüfen Sie danach die Modell-ID mit dem Präfixbroadnet/. - Kostenpflichtiges Modell schlägt bei einem neuen Konto fehl. Das Startguthaben von $5 deckt BroadNet Gemma 4 VL 26B (
broadnet/gemma-4-26b-a4b) und die beiden Modelle von BroadNet Transcribe ab. Laden Sie auf, um die anderen Chatmodelle zu nutzen: DeepSeek V4.1 Flash, GLM 5.3 und Qwen3.8 27B. - Leeres
content. Reasoning zählt zumax_tokens. Erhöhen Sie den Wert oder lassen Sie ihn ungesetzt. Warum Antworten leer zurückkommen. - 429. Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig. Das SDK versucht es standardmäßig zweimal erneut; passen Sie
maxRetriesam Client an. Zu abgebrochenen Streams siehe Chat Completions streamen.
