BroadRouter
Başlayın

BroadNet Inference hata kodları ve ne zaman yeniden denenmeli

Güncellendi

Gövdeyi ayrıştırmadan önce HTTP durum kodunu kontrol edin. 429 ve 5xx hatalarını sınırlı üstel geri çekilmeyle (exponential backoff) yeniden deneyin. 400, 403, 413 ve 422 hatalarını yeniden denemeden önce düzeltin. 401 için anahtarı ve bakiyeyi kontrol edin, 402 için hesaba bakiye yükleyin. Destek için X-Request-ID başlığını her zaman kaydedin.

API normal bir HTTP durum kodu ve makine tarafından okunabilir bir hata kodu döndürür. Bir sonraki adımı durum koduna göre seçin. Bu tablo BroadNet’in API referansını izler.

Durum Anlamı Yapılacak
400 / 422 Geçersiz istek veya alan Önce isteği düzeltin
401 Eksik, geçersiz veya süresi dolmuş anahtar, engellenmiş kullandıkça öde bütçesi ya da tükenmiş kullanım hakkı Anahtar durumunu ve hesap bakiyesini kontrol edin
402 insufficient_balance Hesap bir satın almayı karşılayamıyor; gövde bakiyeyi ve fiyatı içerir Bakiye yükleyin, sonra tekrar deneyin
403 Model, rota veya IP politikası tarafından reddedildi Uyumsuzluğu giderin, örneğin bir IP izin listesi
409 Hesap durumuyla çakışma: mint_in_progress, key_limit_reached, credential_limit_reached, key_pending Yalnızca mint_in_progress durumunu, aynı request_id ile yeniden deneyin
413 İstek çok büyük; transkripsiyon dosyaları 26.214.400 baytla sınırlıdır İsteği küçültün
429 Hız, eşzamanlılık, token hızı veya harcama sınırına ulaşıldı Yanıt ayrıntılarını okuyun, bekleyin ve yeniden deneyin
500 / 502 / 503 / 504 Sunucu tarafında işlem Sınırlı üstel geri çekilmeyle yeniden deneyin; saatlik anahtar satın alımlarında aynı request_id değerini kullanın

BroadNet’in belgeleri, bir JSON gövdesini ayrıştırmadan önce HTTP durum kodunu kontrol etmenizi, ardından varsa makine tarafından okunabilir error kodunu okumanızı söyler.

Hangi sınırlar 429’a yol açar?

Kullandıkça öde anahtarı dakikada 30 isteğe ve aynı anda 4 isteğe izin verir. BroadNet’in belgelerine göre saatlik anahtar dakikada 120 istek, tek akış ve dakikada 300,000 token hakkı tanır. Sınırsız planda her oturum aynı anda tek istek çalıştırır. Bu sınırların OpenAI, Anthropic, Groq ve DeepSeek ile karşılaştırması için sağlayıcılara göre LLM API hız sınırları yazısını okuyun.

OpenAI SDK ile nasıl yeniden denenir?

GitHub’daki README dosyasına göre OpenAI Python SDK; bağlantı hatalarını, 408, 409, 429 ve 5xx yanıtlarını varsayılan olarak kısa üstel geri çekilmeyle zaten iki kez yeniden dener. Varsayılan zaman aşımı 10 dakikadır. İkisini de açıkça ayarlayın (koddaki yorumlar: max_retries=0 otomatik yeniden denemeleri kapatır; timeout saniye cinsindendir ve uzun akıl yürütme yanıtları için artırılmalıdır):

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_retries=4,   # 0 turns automatic retries off
    timeout=120,     # seconds; raise it for long reasoning answers
)

Kendi geri çekilme mantığımı nasıl yazarım?

API’yi SDK olmadan çağırıyorsanız hem deneme sayısını hem de bekleme süresini sınırlayın. Aşağıdaki fonksiyon, durum kodu yeniden denenecekler arasında değilse yanıtı hemen döndürür: bu ya başarıdır ya da yeniden denemek yerine düzeltilmesi gereken bir hatadır.

import random, time, requests

RETRY = {429, 500, 502, 503, 504}

def post_with_backoff(url, headers, body, tries=5):
    for attempt in range(tries):
        r = requests.post(url, headers=headers, json=body, timeout=120)
        if r.status_code not in RETRY:
            return r                      # success, or an error to fix rather than retry
        time.sleep(min(30, 2 ** attempt) + random.random())
    return r

400, 403, 413 veya 422 hatalarını hiçbir şeyi değiştirmeden asla yeniden denemeyin: aynı istek aynı şekilde başarısız olur. Bir sohbet isteğinin her yeniden denemesi yeni bir çıkarımdır ve kullandıkça öde modelinde yeniden faturalandırılır. Genel kalıp için bkz. üstel geri çekilme.

Saatlik anahtar satın alımını güvenle yeniden denemek

POST /portal/keys/hourly bir request_id alır. Zaman aşımı, kopan bağlantı, 409 mint_in_progress veya 5xx sonrasında aynı request_id ile yeniden deneyin. Yeniden kullanılan bir request_id asla ikinci bir anahtar oluşturmaz veya ikinci kez ücret almaz; tekrar edilen istek already_issued: true ve anahtar takma adını döndürür. İlk sonucu öğrenmeden asla yeni bir kimlik üretmeyin. Ayrıntılar: idempotency anahtarları.

Sorun giderme

  • Bakiye yükledikten hemen sonra 401. BroadNet’in hesap sayfası en son kaydedilen kullanım hakkını gösterir ve bir bakiye değişikliğini uygulanırken “güncelleniyor” olarak işaretler. Sayfayı yenileyin ve işlem bittiğinde tekrar deneyin.
  • Dakikada yalnızca birkaç istekle 429. Büyük olasılıkla 4 isteklik eşzamanlılık sınırına takılıyorsunuz; örneğin paralel çalışan uzun akışlarla. Küçük bir worker havuzu kullanın.
  • Bir modelde 403, diğerinde değil. Anahtarın politikası o modeli veya rotayı kapsamıyor. Örneğin plan anahtarları broadnet/deepseek-v4.1-flash içindir, saatlik anahtar ise yalnızca broadnet/gemma-4-26b-a4b modelini kapsar.
  • SDK yeniden denedi ve iki kez ücret ödediniz. Yeniden denenen bir sohbet isteği yeni bir çıkarımdır. Yinelenen bir yanıtın başarısız bir yanıttan daha pahalıya geldiği yerlerde max_retries=0 ayarlayın.

Desteğe ne gönderilmeli

X-Request-ID başlığının değerini, UTC zaman damgasını, rotayı, HTTP durum kodunu ve anahtar takma adınızı ekleyin. Anahtarın kendisini asla göndermeyin. Başlığın nasıl okunacağı OpenAI Python SDK rehberinde gösteriliyor.

Sık sorulan sorular

Bir LLM API'sinden gelen 429 hatasını yeniden denemeli miyim?

Evet, sınırlı üstel geri çekilmeyle. BroadNet Inference'ta 429, bir hız, eşzamanlılık, token hızı veya harcama sınırına ulaşıldığı anlamına gelir. Sık tekrarlanıyorsa paralelliği azaltın; neden bir harcama sınırıysa yeniden denemeyi bırakın.

Anahtarım doğru olduğu hâlde neden 401 alıyorum?

BroadNet'te 401 yalnızca yanlış veya süresi dolmuş bir anahtarı değil, tükenmiş bir kullandıkça öde kullanım hakkını veya engellenmiş bir bütçeyi de kapsar. Hesap sayfasında bakiyeyi ve anahtarın durumunu kontrol edin.

Burada 401 ile 403 arasındaki fark nedir?

401 anahtarla veya hesabın kullanım hakkıyla ilgilidir. 403 ise anahtarın çalıştığını ama isteğin model, rota veya IP politikası tarafından reddedildiğini gösterir; örneğin izin listesinde olmayan bir adresten yapılan çağrı.

OpenAI SDK hataları otomatik olarak yeniden dener mi?

Evet. OpenAI Python SDK; bağlantı hatalarını, 408, 409, 429 ve 5xx yanıtlarını varsayılan olarak kısa üstel geri çekilmeyle iki kez yeniden dener. Sayıyı değiştirmek için max_retries ayarlayın, yeniden denemeleri kapatmak için 0 yapın.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor