BroadRouter
Başlayın

BroadNet Inference'ı LibreChat'e özel uç nokta olarak ekleyin

Güncellendi

librechat.yaml dosyasında endpoints.custom altına bir girdi ekleyin: name BroadNet, apiKey BROADNET_API_KEY gibi bir ortam değişkeni referansı, baseURL https://inference.broadnet.ai/v1 ve models.default altında broadnet/glm-5.3 gibi BroadNet kimlikleri. Anahtarı .env dosyasına koyun, Docker'da dosyayı konteynere bağlayın ve LibreChat'i yeniden başlatın. LibreChat /chat/completions yolunu base URL'ye kendisi ekler.

LibreChat, OpenAI uyumlu servisleri özel uç nokta (custom endpoint) olarak destekleyen açık kaynaklı bir sohbet uygulamasıdır. Bunları librechat.yaml içinde tanımlar, anahtarları .env dosyasında tutar ve Docker kullanıyorsanız YAML dosyasını konteynere bağlarsınız. BroadRouter, BroadNet’in kendi sitesidir; adımlar LibreChat’in özel uç nokta rehberini izler.

Kurulum

  1. librechat.yaml dosyasını bağlayın (yalnızca Docker). docker-compose.override.yml.example dosyasını docker-compose.override.yml olarak kopyalayın ve volume tanımının etkin olduğundan emin olun:
services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml
  1. Uç noktayı ekleyin: proje kök dizinindeki librechat.yaml dosyasında endpoints.custom altına:
endpoints:
  custom:
    - name: 'BroadNet'
      apiKey: '${BROADNET_API_KEY}'
      baseURL: 'https://inference.broadnet.ai/v1'
      models:
        default:
          - 'broadnet/glm-5.3'
          - 'broadnet/qwen3.8-27b'
          - 'broadnet/deepseek-v4.1-flash'
          - 'broadnet/gemma-4-26b-a4b'
        fetch: false
      titleConvo: true
      titleModel: 'broadnet/gemma-4-26b-a4b'
      modelDisplayLabel: 'BroadNet'

Dosyanızda zaten bulunan version gibi üst düzey anahtarları koruyun.

  1. Anahtarı ayarlayın: .env dosyasında:
BROADNET_API_KEY=your-broadnet-key
  1. LibreChat’i yeniden başlatın. Docker ile: docker compose down && docker compose up -d. Yerel kurulumda npm run backend ile yeniden başlatın. Ardından BroadNet uç nokta seçicide görünür.

Alanlarla ilgili notlar

  • baseURL. LibreChat /chat/completions yolunu kendisi ekler; bu yüzden yukarıdaki /v1 kökünü kullanın. directEndpoint: true ayarlamayın; bu seçenek zaten tam completions URL’si olan bir baseURL içindir.
  • fetch: false. Bu LibreChat’in varsayılanıdır; seçimi görünür kılmak için yazdık. BroadNet’in belgeleri GET /v1/models uç noktasını izleme araçları için herkese açık katalog meta verisi olarak tanımlar; bu yüzden modelleri default altında listelemek daha öngörülebilirdir.
  • titleModel. LibreChat her sohbet için ek bir istekle başlık yazar. Akıl yürütmesi olmayan küçük ve ucuz bir model bu çağrıyı kısa tutar. BroadNet’in belgeleri Gemma 4 VL 26B için akıl yürütme listelemez.
  • user_provided. Her kullanıcının kendi BroadNet anahtarını arayüzden girmesi gerekiyorsa apiKey: 'user_provided' ayarlayın. LibreChat her kullanıcının anahtarını şifreli saklar ve uç noktayı ilk seçtiklerinde ister.
  • Benzersiz ad. Büyük/küçük harf farkı gözetilmeden aynı ada sahip ikinci bir uç nokta, ilkinin yerini sessizce alır. Zaten BroadNet adlı bir girdiniz varsa birini yeniden adlandırın.
  • Anahtarı açık yazmayın. LibreChat belgeleri, anahtarı librechat.yaml içine yazmak yerine ${VAR} referansını önerir; aksi hâlde anahtar dosyada düz metin olarak durur.

Hangi modeli seçmeli

Kullanım Model
Varsayılan sohbet, araçlar, JSON GLM 5.3
Görseller ve Arapça Qwen3.8 27B
Uzun belgeler, 1M bağlam DeepSeek V4.1 Flash
Başlıklar ve kısa yanıtlar BroadNet Gemma 4 VL 26B

Bu modellerden $5 başlangıç kredisiyle çalışan tek model Gemma 4 VL 26B’dir; bu kredi iki Transcribe modelini de kapsar. Fiyatları fiyatlandırma sayfasında karşılaştırın.

Sorun giderme

  • Uç nokta görünmüyor. name, baseURL, apiKey ve models.default alanlarının doğru yazıldığını ve endpoints.custom içinde girintili olduğunu kontrol edin. LibreChat eksik girdileri log satırı olmadan atlar. Docker’da docker-compose.override.yml içindeki bind mount satırlarının yorumdan çıkarıldığını doğrulayın.
  • “Missing API Key for BroadNet”. BROADNET_API_KEY .env dosyasında yok veya LibreChat yeniden başlatılmadı. Uç nokta yine görünür; hata yalnızca mesaj gönderdiğinizde çıkar.
  • Sağlayıcıdan 401. Anahtar yanlış, süresi dolmuş veya kullandıkça öde kullanım hakkı tükenmiş.
  • Model hataları. Her kimlik, broadnet/ önekiyle birlikte BroadNet’inkiyle birebir aynı olmalıdır. GLM 5.3, Qwen3.8 27B ve DeepSeek V4.1 Flash bakiye yüklemesi gerektirir.
  • Boş yanıtlar. DeepSeek V4.1 Flash, GLM 5.3 ve Qwen3.8 27B önce akıl yürütür ve akıl yürütme max_tokens sınırına dahildir. LibreChat parametrelerinde düşük bir maksimum çıktı ayarladıysanız artırın. Yanıtlar neden boş geliyor.
  • Çok kullanıcıda 429. Tek bir kullandıkça öde anahtarı dakikada 30 isteğe ve aynı anda 4 isteğe izin verir; bu sınırı uç noktadaki herkes paylaşır. Başlık istekleri de sayılır. user_provided anahtarlar yükü dağıtır. Hatalar ve yeniden denemeler rehberine bakın.
  • Plan anahtarları. Bir sınırsız plan oturumu istekleri tek tek çalıştırır ve paylaşılamaz; bu yüzden çok kullanıcılı bir LibreChat için uygun değildir.

Sık sorulan sorular

BroadNet uç noktam LibreChat'te neden görünmüyor?

name, baseURL, apiKey veya models.default eksik ya da yanlış yazılmışsa LibreChat özel uç noktayı hiçbir hata veya log satırı vermeden atlar. Docker'da ayrıca librechat.yaml dosyasının /app/librechat.yaml yoluna bağlandığını ve yeniden başlattığınızı kontrol edin.

Her kullanıcı kendi BroadNet anahtarını kullanabilir mi?

Evet. apiKey değerini user_provided yapın. LibreChat, uç noktayı ilk kez seçtiklerinde her kullanıcıdan bir anahtar ister ve anahtarı şifreli olarak saklar.

LibreChat neden "Missing API Key for BroadNet" gösteriyor?

apiKey içinde referans verilen değişken .env dosyasında tanımlı değil. Uç nokta seçicide yine görünür; hata yalnızca mesaj gönderdiğinizde çıkar. Değişkeni ekleyin, ardından LibreChat'i yeniden başlatın.

LibreChat baseURL değeri /chat/completions içermeli mi?

Hayır. LibreChat varsayılan olarak baseURL'ye /chat/completions ekler. https://inference.broadnet.ai/v1 kullanın. directEndpoint değerini yalnızca girdiğiniz URL zaten tam completions uç noktasıysa true yapın.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor