BroadRouter

Menghubungkan Langflow ke BroadNet Inference

Diperbarui

Di Langflow, tambahkan komponen OpenAI dari bundle OpenAI. Ketik ID BroadNet seperti broadnet/glm-5.3 di Model Name, tempel kunci BroadNet Anda, dan di pengaturan lanjutan isi OpenAI API Base dengan https://inference.broadnet.ai/v1. Jangan pakai model provider OpenAI Compatible. Provider itu mengambil daftar model dari /v1/models, dan daftar BroadNet hanya berisi model transkripsi.

Langflow adalah builder visual open source untuk agen dan flow RAG. Komponen OpenAI-nya punya field OpenAI API Base yang, menurut keterangan komponen itu sendiri, memungkinkan Anda “use other APIs” (terjemahan: memakai API lain). BroadNet Inference menyajikan chat completions di https://inference.broadnet.ai/v1, jadi komponen ini bisa dipakai dengan ID model BroadNet yang diketik manual. BroadRouter adalah situs milik BroadNet sendiri; panduan ini mengikuti dokumentasi Langflow 1.13.x dan source code komponen di v1.13.2.

Penyiapan

  1. Tambahkan komponennya. Di sebuah flow, buka panel komponen dan tambahkan OpenAI dari bundle OpenAI. Langflow 1.13.2 menginstal bundle ini bersama paket utamanya.

  2. Model Name. Klik field-nya dan ketik broadnet/glm-5.3. Field ini menerima nilai kustom, jadi Anda tidak terbatas pada model OpenAI di daftar.

  3. OpenAI API Key. Tempel kunci BroadNet Anda, atau pilih global variable yang menyimpannya.

  4. Pengaturan lanjutan. Buka kontrol komponen dan atur:

    Field Nilai
    OpenAI API Base https://inference.broadnet.ai/v1
    Max Tokens 4000
  5. Jalankan. Hubungkan Chat Input dan Chat Output, buka Playground, lalu kirim pesan. Jika ada balasan, berarti pengaturannya sudah benar.

Dua pemeriksaan Langflow yang bisa memblokir BroadNet

Langflow 1.13 mengaktifkan perlindungan SSRF secara default. Ada dua aturan yang penting:

  • Kunci dari environment server. Jika API key berasal dari environment server (misalnya global variable yang dimuat dari environment variable), Langflow menolak mengirimnya ke endpoint non-default kecuali host-nya masuk allowlist. Operator mengatur:

    export LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS=inference.broadnet.ai

    Kunci yang diketik langsung di komponen tidak terpengaruh.

  • Alamat privat. Loopback dan IP privat diblokir kecuali tercantum di LANGFLOW_SSRF_ALLOWED_HOSTS. BroadNet adalah host HTTPS publik, jadi aturan ini hanya berpengaruh jika Anda mengarahkannya lewat proxy lokal.

Kenapa bukan provider OpenAI Compatible?

Langflow 1.13 juga punya model provider OpenAI Compatible di Settings → Model Providers. Dokumentasinya menyebut provider ini memvalidasi koneksi ke route /v1/models milik endpoint dan menawarkan model yang ditemukannya. Saat kami periksa pada 16 November 2026, /v1/models BroadNet hanya mencantumkan broadnet/cohere-transcribe-arabic dan broadnet/cohere-transcribe, jadi model chat tidak bisa dipilih di sana. Nama model yang diketik manual di komponen OpenAI menghindari masalah itu.

Model mana yang dipilih

Flow Model
Komponen Agent dengan tools broadnet/glm-5.3
Flow dengan gambar atau teks bahasa Arab, dengan tools broadnet/qwen3.8-27b
Flow dokumen panjang, paket harga tetap broadnet/deepseek-v4.1-flash
Mencoba Langflow dengan kredit awal broadnet/gemma-4-26b-a4b (konteks 32.768 token)

Dokumentasi BroadNet mencantumkan tools dan output terstruktur hanya untuk GLM 5.3 dan Qwen3.8 27B. Opsi JSON Mode di komponen ini mengirim response_format: {"type": "json_object"}; pakai bersama kedua model itu. Harga semua model.

Cara kami mengujinya

Kami tidak menjalankan UI Langflow. Pada 2026-11-15 kami menginstal lfx 1.13.2 dan bundle lfx-openai, yang file komponen OpenAI-nya sama dengan source v1.13.2, lalu membangun komponen itu di Python dan mengarahkannya ke mock server lokal yang meniru format chat completions BroadNet. Dengan kunci yang diketik manual dan LANGFLOW_SSRF_ALLOWED_HOSTS yang diatur untuk mock lokal, permintaan masuk ke /v1/chat/completions dengan ID model broadnet/glm-5.3 tanpa perubahan, kunci Bearer, temperature: 0.1, dan sebuah seed. Nilai Max Tokens dikirim sebagai max_completion_tokens; referensi API BroadNet menjelaskan max_tokens. Kunci yang disalin dari environment server ditolak sampai kami juga mengatur LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS. Kami tidak punya kunci BroadNet, jadi output model sungguhan tidak kami uji.

Pemecahan masalah

  • “Refusing to send a server-provisioned API credential”. Tambahkan inference.broadnet.ai ke LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS, atau ketik kuncinya di komponen.
  • 401. Kuncinya salah, kedaluwarsa, atau jatahnya habis.
  • 404. OpenAI API Base harus diakhiri /v1, dan Model Name harus sama persis dengan ID BroadNet. Model berbayar memerlukan top up; kredit $5 hanya mencakup broadnet/gemma-4-26b-a4b dan dua model Transcribe.
  • Balasan kosong. Di DeepSeek V4.1 Flash, GLM 5.3, dan Qwen3.8 27B, penalaran ikut dihitung dalam batas output. Naikkan Max Tokens. Kenapa jawaban kembali kosong.
  • 429. Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit dan 4 permintaan yang berjalan bersamaan. Lihat panduan error dan percobaan ulang.

Pertanyaan umum

Kenapa provider OpenAI Compatible tidak menampilkan GLM 5.3 atau Qwen?

Dokumentasi Langflow menyebut provider itu menemukan model dari route /v1/models milik endpoint. Saat kami periksa pada 16 November 2026, /v1/models BroadNet hanya mencantumkan dua model transkripsi, jadi model chat-nya tidak pernah muncul. Pakai komponen OpenAI dengan nama model yang diketik manual.

Bisakah saya mengetik model yang tidak ada di daftar komponen OpenAI?

Bisa. Model Name adalah combobox, yang dalam definisi input Langflow berarti pengguna boleh memasukkan nilai kustom. Ketik ID BroadNet lengkap, seperti broadnet/glm-5.3.

Kenapa Langflow menolak mengirim kunci saya ke BroadNet?

Langflow 1.13 tidak mau mengirim API key yang berasal dari environment server ke endpoint kustom kecuali operator mengizinkan host-nya. Atur LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS=inference.broadnet.ai, atau tempel kuncinya langsung di komponen.

Apakah komponen OpenAI di Langflow memakai Responses API?

Tidak. Komponen ini membangun ChatOpenAI dari LangChain, yang memanggil chat completions untuk permintaan biasa. Dalam pengujian kami, komponen ini memanggil /v1/chat/completions.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity