BroadRouter
Başlayın

BroadNet Inference'ı OpenAI-API-compatible eklentisiyle Dify'a ekleyin

Güncellendi

Dify'da Integrations, Model Provider altından OpenAI-API-compatible eklentisini kurun ve Add Model'e tıklayın. Tür olarak LLM seçin; broadnet/glm-5.3 gibi bir BroadNet model kimliği, BroadNet anahtarınız ve API Base URL olarak https://inference.broadnet.ai/v1 girin. Completion mode'u Chat yapın, gerçek bağlam boyutunu ve akıl yürütmeye pay bırakan bir çıktı sınırı ayarlayın; Tool Call'u yalnızca GLM 5.3 veya Qwen3.8 27B için seçin.

Dify, LLM uygulamaları ve iş akışları oluşturmak için açık kaynaklı bir platformdur. Dify’ın adıyla listelemediği sağlayıcılar, Dify ekibinin (langgenius) yayımladığı OpenAI-API-compatible model sağlayıcı eklentisiyle eklenir. BroadNet Inference https://inference.broadnet.ai/v1 adresinde standart chat completions sunduğu için buna uyar. BroadRouter, BroadNet’in kendi sitesidir; aşağıdaki alan adları eklentinin 0.0.83 sürümünden alınmıştır.

Kurulum

  1. Bir anahtar alın. BroadNet konsolunda bir kullandıkça öde anahtarı oluşturun.

  2. Eklentiyi kurun. Dify’da Integrations > Model Provider bölümüne gidin, kurulabilir sağlayıcılar arasında OpenAI-API-compatible’ı bulun (ya da Marketplace’te açın) ve kurun. Çalışma alanı sahibi ya da yöneticisi olmanız gerekir.

  3. Bir model ekleyin. Sağlayıcı kartında Add Model’e tıklayın ve şunları doldurun:

    Alan Değer
    Model Type LLM
    Model Name broadnet/glm-5.3
    Model display name GLM 5.3 (BroadNet)
    API Key BroadNet anahtarınız
    API Base URL https://inference.broadnet.ai/v1
    Completion mode Chat
    Model context size 1048576
    Upper bound for max tokens 16000
    Function Call Type Tool Call
    Vision Support Not Support
    Structured Output Support
    API Type Chat Completions API (/chat/completions)
    Token parameter name Use max_tokens
  4. Kaydedin. Dify, modeli eklemeden önce kimlik bilgilerini kontrol eder.

  5. Test edin. Bir Chatbot uygulaması oluşturun, model seçicide GLM 5.3 (BroadNet)‘i seçin ve önizleme panelinde bir mesaj gönderin.

Kullanmak istediğiniz her BroadNet modeli için Add Model adımını tekrarlayın. Model adı, broadnet/ öneki dahil BroadNet’in kimliğiyle birebir aynı olmalıdır.

Modele göre değerler

Model Name Bağlam boyutu Function Call Type Vision Support
broadnet/glm-5.3 1048576 Tool Call Not Support
broadnet/qwen3.8-27b 262144 Tool Call Support
broadnet/deepseek-v4.1-flash 1048576 Not Support (test edilmedi) Support
broadnet/gemma-4-26b-a4b 32768 Not Support Support

Bu seçimlerin nedenleri:

  • Context size eklentide varsayılan olarak 4.096’dır. Öyle bırakılırsa Dify belleği ve getirilen bağlamı modelin kabul ettiğinin çok altına kırpar.
  • Upper bound for max tokens de varsayılan olarak 4.096’dır. Modellerden üçü yanıt vermeden önce akıl yürütür ve akıl yürütme bu sınıra dahildir; onlara pay bırakın. 16.000 bizim önerimizdir, bir BroadNet sınırı değildir.
  • Token parameter name değerinin max_tokens olması, BroadNet’in API referansındaki alanla eşleşir. Eklentinin varsayılanı, bunu model adından tahmin etmektir.
  • API Type, Chat Completions’ta kalır. BroadNet, Responses API’yi listelemez.

Transkripsiyon

Eklenti konuşmadan metne (speech-to-text) modelleri de ekleyebilir. BroadNet, /v1/audio/transcriptions yolunda Arapça için broadnet/cohere-transcribe-arabic, 14 dil için de broadnet/cohere-transcribe sunar. Eklentinin README’sine göre speech-to-text için sürüm yolunu kendisi ekler; bu yüzden örneği /v1 olmadan yalnızca ana makineyi kullanır (burada https://inference.broadnet.ai). Bu yolu Dify üzerinden test etmedik; önce kısa bir WAV dosyasıyla kontrol edin. Arapça konuşmadan metne rehberine bakın.

Sorun giderme

  • Kimlik bilgisi kontrolü başarısız. Anahtarı, API Base URL’yi (LLM’ler için /v1 ile biter) ve model adını kontrol edin. Ücretli modeller bakiye yüklemesi gerektirir; $5 kredi yalnızca broadnet/gemma-4-26b-a4b modelini kapsar.
  • İş akışında boş yanıtlar. LLM düğümünün max tokens değeri akıl yürüten bir model için çok düşük. Artırın. Yanıtlar neden boş geliyor.
  • Agent düğümü hiç araç çağırmıyor. Function Call Type değeri Tool Call olan GLM 5.3 veya Qwen3.8 27B kullanın.
  • Yük altında 429. Kullandıkça öde anahtarı dakikada 30 isteğe ve işlemde aynı anda 4 isteğe izin verir. Paralel dallar ve yineleme (iteration) düğümleri bunu aşabilir; paralelliklerini düşürün. Hatalar ve yeniden denemeler rehberine bakın.

Sık sorulan sorular

BroadNet, kendi sunucumuzdaki Dify'ın yanı sıra Dify Cloud'da da çalışır mı?

Evet. BroadNet Inference herkese açık bir HTTPS uç noktasıdır, bu yüzden Dify Cloud ona ulaşabilir. Dify'ın belgelerine göre model sağlayıcılarını yalnızca çalışma alanı sahipleri ve yöneticileri yönetebilir; eklediğiniz anahtar tüm çalışma alanında geçerli olur.

API Base URL /v1 içermeli mi?

Evet, LLM modelleri için. Eklentinin kendi örnekleri sohbet modelleri için /v1 ile biten bir base URL kullanır; README'si ise bazı diğer model türlerinde sürüm yolunu kendisinin eklediği konusunda uyarır.

Hangi Function Call Type'ı seçmeliyim?

BroadNet'in araç desteğiyle listelediği GLM 5.3 ve Qwen3.8 27B için Tool Call. DeepSeek V4.1 Flash'ta araç çağrılarını kendiniz test etmediyseniz Not Support seçin.

Dify AI kredileri BroadNet modellerinde geçerli mi?

Hayır. Dify'ın belgelerine göre AI kredileri kendi hesabınızla kullandığınız sağlayıcılarda geçerli değildir. BroadNet, girdiğiniz anahtar üzerinden faturalandırır.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor