LibreChat, OpenAI uyumlu servisleri özel uç nokta (custom endpoint) olarak destekleyen açık kaynaklı bir sohbet uygulamasıdır. Bunları librechat.yaml içinde tanımlar, anahtarları .env dosyasında tutar ve Docker kullanıyorsanız YAML dosyasını konteynere bağlarsınız. BroadRouter, BroadNet’in kendi sitesidir; adımlar LibreChat’in özel uç nokta rehberini izler.
Kurulum
- librechat.yaml dosyasını bağlayın (yalnızca Docker).
docker-compose.override.yml.exampledosyasınıdocker-compose.override.ymlolarak kopyalayın ve volume tanımının etkin olduğundan emin olun:
services:
api:
volumes:
- type: bind
source: ./librechat.yaml
target: /app/librechat.yaml
- Uç noktayı ekleyin: proje kök dizinindeki
librechat.yamldosyasındaendpoints.customaltına:
endpoints:
custom:
- name: 'BroadNet'
apiKey: '${BROADNET_API_KEY}'
baseURL: 'https://inference.broadnet.ai/v1'
models:
default:
- 'broadnet/glm-5.3'
- 'broadnet/qwen3.8-27b'
- 'broadnet/deepseek-v4.1-flash'
- 'broadnet/gemma-4-26b-a4b'
fetch: false
titleConvo: true
titleModel: 'broadnet/gemma-4-26b-a4b'
modelDisplayLabel: 'BroadNet'
Dosyanızda zaten bulunan version gibi üst düzey anahtarları koruyun.
- Anahtarı ayarlayın:
.envdosyasında:
BROADNET_API_KEY=your-broadnet-key
- LibreChat’i yeniden başlatın. Docker ile:
docker compose down && docker compose up -d. Yerel kurulumdanpm run backendile yeniden başlatın. Ardından BroadNet uç nokta seçicide görünür.
Alanlarla ilgili notlar
- baseURL. LibreChat
/chat/completionsyolunu kendisi ekler; bu yüzden yukarıdaki/v1kökünü kullanın.directEndpoint: trueayarlamayın; bu seçenek zaten tam completions URL’si olan bir baseURL içindir. - fetch: false. Bu LibreChat’in varsayılanıdır; seçimi görünür kılmak için yazdık. BroadNet’in belgeleri
GET /v1/modelsuç noktasını izleme araçları için herkese açık katalog meta verisi olarak tanımlar; bu yüzden modelleridefaultaltında listelemek daha öngörülebilirdir. - titleModel. LibreChat her sohbet için ek bir istekle başlık yazar. Akıl yürütmesi olmayan küçük ve ucuz bir model bu çağrıyı kısa tutar. BroadNet’in belgeleri Gemma 4 VL 26B için akıl yürütme listelemez.
- user_provided. Her kullanıcının kendi BroadNet anahtarını arayüzden girmesi gerekiyorsa
apiKey: 'user_provided'ayarlayın. LibreChat her kullanıcının anahtarını şifreli saklar ve uç noktayı ilk seçtiklerinde ister. - Benzersiz ad. Büyük/küçük harf farkı gözetilmeden aynı ada sahip ikinci bir uç nokta, ilkinin yerini sessizce alır. Zaten BroadNet adlı bir girdiniz varsa birini yeniden adlandırın.
- Anahtarı açık yazmayın. LibreChat belgeleri, anahtarı
librechat.yamliçine yazmak yerine${VAR}referansını önerir; aksi hâlde anahtar dosyada düz metin olarak durur.
Hangi modeli seçmeli
| Kullanım | Model |
|---|---|
| Varsayılan sohbet, araçlar, JSON | GLM 5.3 |
| Görseller ve Arapça | Qwen3.8 27B |
| Uzun belgeler, 1M bağlam | DeepSeek V4.1 Flash |
| Başlıklar ve kısa yanıtlar | BroadNet Gemma 4 VL 26B |
Bu modellerden $5 başlangıç kredisiyle çalışan tek model Gemma 4 VL 26B’dir; bu kredi iki Transcribe modelini de kapsar. Fiyatları fiyatlandırma sayfasında karşılaştırın.
Sorun giderme
- Uç nokta görünmüyor.
name,baseURL,apiKeyvemodels.defaultalanlarının doğru yazıldığını veendpoints.customiçinde girintili olduğunu kontrol edin. LibreChat eksik girdileri log satırı olmadan atlar. Docker’dadocker-compose.override.ymliçindeki bind mount satırlarının yorumdan çıkarıldığını doğrulayın. - “Missing API Key for BroadNet”.
BROADNET_API_KEY.envdosyasında yok veya LibreChat yeniden başlatılmadı. Uç nokta yine görünür; hata yalnızca mesaj gönderdiğinizde çıkar. - Sağlayıcıdan 401. Anahtar yanlış, süresi dolmuş veya kullandıkça öde kullanım hakkı tükenmiş.
- Model hataları. Her kimlik,
broadnet/önekiyle birlikte BroadNet’inkiyle birebir aynı olmalıdır. GLM 5.3, Qwen3.8 27B ve DeepSeek V4.1 Flash bakiye yüklemesi gerektirir. - Boş yanıtlar. DeepSeek V4.1 Flash, GLM 5.3 ve Qwen3.8 27B önce akıl yürütür ve akıl yürütme
max_tokenssınırına dahildir. LibreChat parametrelerinde düşük bir maksimum çıktı ayarladıysanız artırın. Yanıtlar neden boş geliyor. - Çok kullanıcıda 429. Tek bir kullandıkça öde anahtarı dakikada 30 isteğe ve aynı anda 4 isteğe izin verir; bu sınırı uç noktadaki herkes paylaşır. Başlık istekleri de sayılır.
user_providedanahtarlar yükü dağıtır. Hatalar ve yeniden denemeler rehberine bakın. - Plan anahtarları. Bir sınırsız plan oturumu istekleri tek tek çalıştırır ve paylaşılamaz; bu yüzden çok kullanıcılı bir LibreChat için uygun değildir.
