BroadRouter
Mulakan

Sambungkan Langflow kepada BroadNet Inference

Dikemas kini

Dalam Langflow, tambah komponen OpenAI daripada bundle OpenAI. Taip ID BroadNet seperti broadnet/glm-5.3 dalam Model Name, tampal kunci BroadNet anda, dan dalam tetapan lanjutan tetapkan OpenAI API Base kepada https://inference.broadnet.ai/v1. Jangan guna penyedia model OpenAI Compatible. Ia menyenaraikan model daripada /v1/models, dan /v1/models BroadNet hanya menyenaraikan model transkripsi.

Langflow ialah pembina visual sumber terbuka untuk ejen dan aliran RAG. Komponen OpenAInya mempunyai medan OpenAI API Base yang, menurut komponen itu sendiri, membolehkan anda “use other APIs” (Terjemahan BroadRouter: menggunakan API lain). BroadNet Inference menyediakan chat completions di https://inference.broadnet.ai/v1, jadi komponen itu berfungsi dengan ID model BroadNet yang ditaip. BroadRouter ialah laman web BroadNet sendiri; panduan ini mengikut dokumentasi Langflow 1.13.x dan kod sumber komponen dalam v1.13.2.

Persediaan

  1. Tambah komponen. Dalam satu aliran, buka panel komponen dan tambah OpenAI daripada bundle OpenAI. Langflow 1.13.2 memasang bundle ini bersama pakej utama.

  2. Model Name. Klik medan itu dan taip broadnet/glm-5.3. Ia menerima nilai tersuai, jadi anda tidak terhad kepada model OpenAI dalam senarai.

  3. OpenAI API Key. Tampal kunci BroadNet anda, atau pilih pemboleh ubah global yang menyimpannya.

  4. Tetapan lanjutan. Buka kawalan komponen dan tetapkan:

    Medan Nilai
    OpenAI API Base https://inference.broadnet.ai/v1
    Max Tokens 4000
  5. Jalankan. Sambungkan Chat Input dan Chat Output, buka Playground dan hantar mesej. Jika ada balasan, tetapan anda betul.

Dua semakan Langflow yang boleh menyekat BroadNet

Langflow 1.13 mengaktifkan perlindungan SSRF secara lalai. Dua peraturan penting:

  • Kunci daripada persekitaran pelayan. Jika kunci API datang daripada persekitaran pelayan (contohnya pemboleh ubah global yang dimuatkan daripada pembolehubah persekitaran), Langflow enggan menghantarnya ke endpoint bukan lalai kecuali hos itu ada dalam senarai dibenarkan. Pengendali menetapkan:

    export LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS=inference.broadnet.ai

    Kunci yang ditaip terus ke dalam komponen tidak terjejas.

  • Alamat peribadi. Loopback dan IP peribadi disekat kecuali ia ada dalam LANGFLOW_SSRF_ALLOWED_HOSTS. BroadNet ialah hos HTTPS awam, jadi ini hanya penting jika anda menghalakannya melalui proksi tempatan.

Mengapa bukan penyedia OpenAI Compatible?

Langflow 1.13 juga mempunyai penyedia model OpenAI Compatible di bawah Settings → Model Providers. Dokumentasinya menyatakan ia mengesahkan sambungan melalui laluan /v1/models endpoint dan menawarkan model yang ditemuinya. Semasa kami menyemak pada 16 November 2026, /v1/models BroadNet hanya menyenaraikan broadnet/cohere-transcribe-arabic dan broadnet/cohere-transcribe, jadi model chat tidak boleh dipilih di situ. Nama model yang ditaip dalam komponen OpenAI mengelakkan masalah itu.

Model mana yang patut dipilih

Aliran Model
Komponen Agent dengan alatan broadnet/glm-5.3
Aliran dengan imej atau teks bahasa Arab, dengan alatan broadnet/qwen3.8-27b
Aliran dokumen panjang, pelan harga tetap broadnet/deepseek-v4.1-flash
Mencuba Langflow dengan kredit permulaan broadnet/gemma-4-26b-a4b (konteks 32,768 token)

Dokumentasi BroadNet menyenaraikan tools dan output berstruktur untuk GLM 5.3 dan Qwen3.8 27B sahaja. JSON Mode komponen ini menghantar response_format: {"type": "json_object"}; gunakannya dengan dua model itu. Harga setiap model.

Cara kami mengujinya

Kami tidak menjalankan UI Langflow. Pada 2026-11-15 kami memasang lfx 1.13.2 dan bundle lfx-openai, yang fail komponen OpenAI-nya sepadan dengan kod sumber v1.13.2, dan membina komponen itu dalam Python terhadap pelayan olok-olok tempatan yang mengikut bentuk chat completions BroadNet. Dengan kunci yang ditaip dan LANGFLOW_SSRF_ALLOWED_HOSTS ditetapkan untuk pelayan olok-olok tempatan, permintaan pergi ke /v1/chat/completions dengan ID model broadnet/glm-5.3 tidak berubah, kunci Bearer, temperature: 0.1 dan satu seed. Nilai Max Tokens dihantar sebagai max_completion_tokens; rujukan API BroadNet menerangkan max_tokens. Kunci yang disalin daripada persekitaran pelayan ditolak sehingga kami turut menetapkan LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS. Kami tiada kunci BroadNet, jadi kami tidak menguji output model sebenar.

Penyelesaian masalah

  • “Refusing to send a server-provisioned API credential”. Tambah inference.broadnet.ai pada LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS, atau taip kunci ke dalam komponen.
  • 401. Kunci salah, telah tamat tempoh atau kehabisan elaun.
  • 404. OpenAI API Base mesti berakhir dengan /v1, dan Model Name mesti sepadan tepat dengan ID BroadNet. Model berbayar memerlukan tambah nilai; kredit $5 hanya meliputi broadnet/gemma-4-26b-a4b dan dua model Transcribe.
  • Balasan kosong. Penaakulan dikira dalam had output pada DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B. Naikkan Max Tokens. Mengapa jawapan kosong.
  • 429. Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak. Lihat ralat dan cuba semula.

Soalan lazim

Mengapakah penyedia OpenAI Compatible tidak memaparkan GLM 5.3 atau Qwen?

Dokumentasi Langflow menyatakan penyedia itu mencari model daripada laluan /v1/models endpoint. Semasa kami menyemak pada 16 November 2026, /v1/models BroadNet hanya menyenaraikan dua model transkripsi, jadi model chat BroadNet tidak akan muncul. Gunakan komponen OpenAI dengan nama model yang ditaip.

Bolehkah saya menaip model yang tiada dalam senarai komponen OpenAI?

Boleh. Model Name ialah combobox, yang dalam definisi input Langflow bermaksud pengguna boleh memasukkan nilai tersuai. Taip ID BroadNet penuh, seperti broadnet/glm-5.3.

Mengapakah Langflow enggan menghantar kunci saya ke BroadNet?

Langflow 1.13 tidak akan menghantar kunci API yang datang daripada persekitaran pelayan ke endpoint tersuai kecuali pengendali membenarkan hos tersebut. Tetapkan LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS=inference.broadnet.ai, atau tampal kunci ke dalam komponen.

Adakah komponen OpenAI Langflow menggunakan Responses API?

Tidak. Ia membina ChatOpenAI LangChain, yang memanggil chat completions untuk permintaan biasa. Dalam ujian kami, ia memanggil /v1/chat/completions.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity