BroadNet Inference hesabınızdan alacağınız bir çıkarım anahtarına ihtiyacınız var. Yeni hesaplar kart gerekmeden $5 krediyle başlar. Python kullanıyorsanız Python SDK rehberine bakın.
1. Kurun ve anahtarı ayarlayın
Güncel openai paketi (7.x) Node.js 22 veya daha yenisini gerektirir.
npm install openai
export BROADNET_API_KEY='paste-the-key-once'
2. İlk istek
first-request.mjs olarak kaydedin ve node first-request.mjs ile çalıştırın:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
const response = await client.chat.completions.create({
model: "broadnet/gemma-4-26b-a4b",
messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);
broadnet/gemma-4-26b-a4b ücretsiz krediyle çalışır. Sınırsız plan modeli için broadnet/deepseek-v4.1-flash kullanın ve max_tokens değerini 1.000 veya daha yukarı ayarlayın, çünkü modelin akıl yürütmesi bu sınıra dahildir. Yanıtlar neden boş geliyor.
3. Token akışı
const stream = await client.chat.completions.create({
model: "broadnet/deepseek-v4.1-flash",
stream: true,
stream_options: { include_usage: true },
messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
if (chunk.usage) console.log("\n", chunk.usage);
}
4. İstek kimliğini kaydedin
const { data, request_id } = await client.chat.completions
.create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
.withResponse();
console.log(request_id, data.choices[0].message.content);
SDK request_id değerini x-request-id başlığından okur. Ayrıştırılmış yanıtlar bu değeri data._request_id olarak da taşır.
Bu kimliği UTC saati, rota ve durum koduyla birlikte saklayın: BroadNet desteği bunları ister. Hata kodları ve ne zaman yeniden denenmeli.
Sorun giderme
- 401. Anahtar yanlış, süresi dolmuş veya kullandıkça öde kullanım hakkı bitmiş.
BROADNET_API_KEYtanımlı değilseapiKeydeğeriundefinedolur ve SDKOPENAI_API_KEYdeğişkenine geri döner; o da yoksa hata fırlatır. - 404.
baseURLdeğerinin/v1ile bittiğini veresponsesdeğilchat.completionsçağırdığınızı kontrol edin. Ardından model kimliğinibroadnet/önekiyle birlikte kontrol edin. - Ücretli model yeni hesapta çalışmıyor. $5 başlangıç kredisi BroadNet Gemma 4 VL 26B’yi (
broadnet/gemma-4-26b-a4b) ve iki BroadNet Transcribe modelini kapsar. Diğer sohbet modellerini (DeepSeek V4.1 Flash, GLM 5.3 ve Qwen3.8 27B) kullanmak için bakiye yükleyin. - Boş
content. Akıl yürütmemax_tokenssınırına dahildir. Değeri artırın veya hiç ayarlamayın. Yanıtlar neden boş geliyor. - 429. Kullandıkça öde anahtarı dakikada 30 isteğe ve aynı anda 4 isteğe izin verir. SDK varsayılan olarak iki kez yeniden dener; istemcide
maxRetriesile ayarlayın. Kopan akışlar için bkz. chat completions akışı.
