BroadRouter
Başlayın

Geliştiriciler

Güncellendi

BroadNet Inference, https://inference.broadnet.ai/v1 adresinde OpenAI istek yapılarını kullanır. Konsolda bir anahtar oluşturup ortam değişkeninde saklayın, ardından modelin tam kimliğiyle /chat/completions veya /audio/transcriptions uç noktasına istek gönderin. Üretim trafiğini taşımadan önce o modelin parametrelerini, akışını, araçlarını, sınırlarını ve hatalarını kontrol edin.

İlk sohbet isteğimi nasıl gönderirim?

  1. inference.broadnet.ai (İngilizce) adresinde giriş yapıp bir çıkarım anahtarı oluşturun. Anahtar yalnızca bir kez gösterilir; konsol yalnızca hash değerini saklar.
  2. OpenAI SDK'yı kurun ve anahtarı kabuğunuzda (shell) tanımlayın. Anahtarları tarayıcı kodunda değil, her zaman sunucunuzda tutun.
  3. İsteği gönderin. Yanıtı choices[0].message.content alanından okuyun.

setup

python -m pip install openai
export BROADNET_API_KEY='paste-the-key-once'

first_request.py

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
response = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Reply with one short sentence."}],
)
print(response.choices[0].message.content)

Örnekte BroadNet Gemma 4 VL 26B kullanılıyor; US$5 tutarındaki başlangıç kredisi bu modeli kapsar. Önce bakiye yüklemesi gerekenler: DeepSeek V4.1 Flash, GLM 5.3 ve Qwen3.8 27B. Destek için X-Request-ID yanıt başlığını saklayın.

How a request reaches a model
  1. 01Your appKey kept in an environment variable
  2. 02OpenAI SDKTwo settings change

    base_url api_key

  3. 03BroadNet InferenceOpenAI-compatible APIinference.broadnet.ai/v1POST /chat/completions
  4. 04The model you nameSet in every request
    • broadnet/deepseek-v4.1-flash
    • broadnet/glm-5.3
    • broadnet/qwen3.8-27b
    • broadnet/gemma-4-26b-a4byour choice
  5. 05ResponseFrom that model

You choose the model in each request. There is no automatic routing: the request runs on the model ID you sent.

Your app calls the OpenAI SDK with BroadNet’s base URL and your key. The request goes to BroadNet Inference with the model ID you wrote, and that model answers. Nothing picks or switches the model for you.

Akış (streaming)

stream=true ayarlayın ve data: [DONE] gelene kadar Server-Sent Events okuyun. stream_options.include_usage ile token kullanımı son parçada gelir. Akış [DONE] gelmeden biterse yanıtı eksik kabul edin. BroadNet, üretimde akışa güvenmeden önce bunu her model için doğrulamanızı ister.

stream.sh

curl -N https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"broadnet/gemma-4-26b-a4b","stream":true,"stream_options":{"include_usage":true},"messages":[{"role":"user","content":"Count from one to three."}]}'

Sesi nasıl yazıya dökerim?

Dosya başına en fazla 26.214.400 bayt WAV veya MP3 dosyasını /audio/transcriptions uç noktasına gönderin. language alanını her zaman ayarlayın: bu alan olmadan Arapça, Latin harfleriyle dönebilir. Arapça için language=ar kullanın. .ogg veya .m4a dosyalarını önce dönüştürün: ffmpeg -i voice-note.ogg -ar 16000 -ac 1 voice-note.wav

transcribe.py

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
with open("recording.wav", "rb") as audio:
    result = client.audio.transcriptions.create(
        model="broadnet/cohere-transcribe-arabic",
        file=audio,
        language="ar",
    )
print(result.text)

Yanıt, transkripti text alanında içeren bir JSON'dur. Arapça mı çok dilli model mi, ve sesin maliyeti.

Hangi model kimliklerini kullanabilirim?

Tam kimliği model alanında gönderin. Sohbet modellerini bulmak için /v1/models uç noktasına güvenmeyin; bu listeyi veya referansı (İngilizce) kullanın.

ModelKimlikUç noktaGirdiBelgelenenErişim
DeepSeek V4.1 Flashbroadnet/deepseek-v4.1-flash/chat/completionsMetin + GörselAkıl yürütmeBakiye yükleme gerekir
GLM 5.3broadnet/glm-5.3/chat/completionsMetinAraçlar, Yapılandırılmış çıktı, Akıl yürütmeBakiye yükleme gerekir
Qwen3.8 27Bbroadnet/qwen3.8-27b/chat/completionsMetin + GörselAraçlar, Yapılandırılmış çıktı, Akıl yürütmeBakiye yükleme gerekir
BroadNet Gemma 4 VL 26Bbroadnet/gemma-4-26b-a4b/chat/completionsMetin + Görsel—Başlangıç kredisi
BroadNet Transcribe Arabicbroadnet/cohere-transcribe-arabic/audio/transcriptionsArapça ses—Başlangıç kredisi
BroadNet Transcribebroadnet/cohere-transcribe/audio/transcriptionsSes, 14 dil—Başlangıç kredisi

"Belgelenen" sütunu, BroadNet referansının her model için adını verdiği araçları, yapılandırılmış çıktıyı ve akıl yürütmeyi listeler (2026-11-15 tarihinde kontrol edildi). Tire, referansın bunları belirtmediği anlamına gelir; olmadıkları anlamına gelmez.

Başka bir OpenAI uyumlu API'den geçiş: kontrol listesi

İstek yapıları tanıdıktır ama modeller farklıdır. Seçtiğiniz model için her maddeyi gözden geçirin ve trafiği taşımadan önce test edin.

  1. Uç nokta. Temel URL'yi https://inference.broadnet.ai/v1 olarak ayarlayın.
  2. Anahtar. Bir ortam değişkenindeki BroadNet çıkarım anahtarını kullanın. Plan anahtarları ile kullandıkça öde anahtarları ayrıdır.
  3. Model kimliği. Tam kimliği kullanın, örneğin broadnet/gemma-4-26b-a4b.
  4. Parametreler. Gönderdiğiniz her parametrenin o model için belgelendiğini kontrol edin. Listede olmayanları kaldırın.
  5. Akış. İstemcinizin SSE akışını [DONE] gelene kadar okuduğunu ve erken biten bir akışı ele aldığını doğrulayın.
  6. Araçlar ve yapılandırılmış çıktı. Referans bunları şu modeller için belgeler: GLM 5.3 ve Qwen3.8 27B. Başka bir modelde bunlara güvenmeden önce test edin.
  7. Akıl yürütme. Akıl yürütme, çıktı bütçesinin bir kısmını kullanabilir. max_tokens değerinde pay bırakın; bkz. akıl yürütme modellerinden gelen boş yanıtlar.
  8. Sınırlar. Kullandıkça öde anahtarı dakikada 30 isteğe ve aynı anda 4 isteğe izin verir. Plan oturumu aynı anda tek isteğe izin verir. Gemma saatlik anahtarı tek akışa, dakikada 120 isteğe ve dakikada 300.000 token'a izin verir.
  9. Bağlam. Bağlam, girdiyi ve yanıtı birlikte kapsar. Modelin sınırını model sayfasında kontrol edin.
  10. Hatalar. Aşağıdaki durum kodlarını yeniden deneme veya düzeltme eylemleriyle eşleyin ve X-Request-ID değerini günlüğe kaydedin.
  11. Maliyetler. Tahmin için fiyat hesaplayıcılarını kullanın. Kullandıkça öde modelinde görseller girdi token'ı olarak sayılır.

Hangi hataları yeniden denemeliyim?

DurumAnlamıEylem
400 / 422Geçersiz istek veya alanİsteği düzeltin; olduğu gibi yeniden denemeyin
401Eksik, geçersiz veya süresi dolmuş anahtar ya da tükenmiş kullanım hakkıAnahtarı ve hesabı kontrol edin
402insufficient_balanceBakiye yükleyip yeniden deneyin
413İstek bayt veya metin sınırını aşıyorDaha az veri gönderin, örneğin daha küçük bir ses dosyası
429Hız, eşzamanlılık, token hızı veya harcama sınırıSınırlı sayıda deneme ile bekleyip yeniden deneyin
500–504Sunucu tarafında sorunSınırlı üstel geri çekilme (exponential backoff) ile yeniden deneyin

Referanstaki hata tablosundan (İngilizce) özetlenmiştir, 2026-11-15 tarihinde kontrol edildi. Yeniden deneme kod örnekleri.

Belgelerin ve rehberlerin tamamı nerede?

Özel bir uç noktaya veya listede olmayan bir modele mi ihtiyacınız var? BroadNet'e ulaşın.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor