BroadRouter

Paano ikonekta ang Langflow sa BroadNet Inference

Na-update

Sa Langflow, idagdag ang OpenAI component mula sa OpenAI bundle. I-type ang BroadNet ID gaya ng broadnet/glm-5.3 sa Model Name, i-paste ang BroadNet key mo, at sa advanced settings, i-set ang OpenAI API Base sa https://inference.broadnet.ai/v1. Huwag gamitin ang OpenAI Compatible na model provider: kumukuha ito ng listahan sa /v1/models, at mga transcription model lang ang nakalista roon sa BroadNet.

Open-source na visual builder ang Langflow para sa mga agent at RAG flow. May OpenAI API Base field ang OpenAI component nito na, sa sariling salita ng component, para “use other APIs” (Salin ng BroadRouter: gumamit ng ibang API). Nagse-serve ang BroadNet Inference ng chat completions sa https://inference.broadnet.ai/v1, kaya gumagana ang component na iyon basta i-type mo ang BroadNet model ID. Ang BroadRouter ay sariling site ng BroadNet; sinusundan nito ang Langflow 1.13.x docs at ang source code ng component sa v1.13.2.

Setup

  1. Idagdag ang component. Sa isang flow, buksan ang components panel at idagdag ang OpenAI mula sa OpenAI bundle. Kasama na ang bundle na ito sa main package ng Langflow 1.13.2.

  2. Model Name. I-click ang field at i-type ang broadnet/glm-5.3. Tumatanggap ito ng custom value, kaya hindi ka limitado sa mga OpenAI model na nasa listahan.

  3. OpenAI API Key. I-paste ang BroadNet key mo, o pumili ng global variable na may hawak nito.

  4. Advanced settings. Buksan ang controls ng component at i-set ang:

    Field Value
    OpenAI API Base https://inference.broadnet.ai/v1
    Max Tokens 4000
  5. Patakbuhin. Ikabit ang isang Chat Input at Chat Output, buksan ang Playground at magpadala ng message. Kapag may sagot, tama ang settings.

Dalawang check ng Langflow na puwedeng humarang sa BroadNet

Naka-on bilang default ang SSRF protection sa Langflow 1.13. Dalawang rule ang mahalaga:

  • Mga key mula sa environment ng server. Kung galing sa environment ng server ang API key (halimbawa, global variable na kinuha mula sa environment variable), hindi ito ipapadala ng Langflow sa endpoint na hindi default, maliban kung nasa allowlist ang host. Ito ang ise-set ng operator:

    export LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS=inference.broadnet.ai

    Hindi apektado ang key na tinipa mismo sa component.

  • Mga private address. Naka-block ang loopback at mga private IP maliban kung nasa LANGFLOW_SSRF_ALLOWED_HOSTS ang mga ito. Public HTTPS host ang BroadNet, kaya mahalaga lang ito kung dadaan ka sa isang lokal na proxy.

Bakit hindi ang OpenAI Compatible provider?

May OpenAI Compatible na model provider din ang Langflow 1.13 sa ilalim ng Settings → Model Providers. Ayon sa docs nito, vina-validate nito ang koneksyon gamit ang /v1/models route ng endpoint at iniaalok ang mga model na makikita roon. Nang suriin namin noong Nobyembre 16, 2026, broadnet/cohere-transcribe-arabic at broadnet/cohere-transcribe lang ang nakalista sa /v1/models ng BroadNet, kaya hindi mapipili roon ang mga chat model. Naiiwasan iyon ng tinipang model name sa OpenAI component.

Aling model ang pipiliin

Flow Model
Agent component na may tools broadnet/glm-5.3
Mga flow na may larawan o Arabic na teksto, may tools broadnet/qwen3.8-27b
Mga flow para sa mahahabang dokumento, flat-price na plan broadnet/deepseek-v4.1-flash
Pagsubok sa Langflow gamit ang panimulang credit broadnet/gemma-4-26b-a4b (32,768-token na context)

Sa GLM 5.3 at Qwen3.8 27B lang nakalista ang tools at structured output sa docs ng BroadNet. Ang JSON Mode ng component ay nagpapadala ng response_format: {"type": "json_object"}; gamitin ito sa dalawang model na iyon. Mga presyo ng bawat model.

Paano namin ito sinubok

Hindi namin pinatakbo ang Langflow UI. Noong 2026-11-15, nag-install kami ng lfx 1.13.2 at ng lfx-openai bundle, na ang OpenAI component file ay tugma sa v1.13.2 source, at binuo namin ang component sa Python laban sa isang lokal na mock server na sumusunod sa chat-completions na format ng BroadNet. Gamit ang tinipang key at LANGFLOW_SSRF_ALLOWED_HOSTS na naka-set para sa lokal na mock, pumunta ang request sa /v1/chat/completions nang hindi nagbago ang model ID na broadnet/glm-5.3, may Bearer key, temperature: 0.1 at isang seed. Ipinadala ang value ng Max Tokens bilang max_completion_tokens; max_tokens naman ang inilalarawan ng API reference ng BroadNet. Tinanggihan ang key na kinopya mula sa environment ng server hanggang i-set din namin ang LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS. Wala kaming BroadNet key, kaya hindi namin sinubok ang totoong output ng model.

Troubleshooting

  • “Refusing to send a server-provisioned API credential”. Idagdag ang inference.broadnet.ai sa LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS, o i-type ang key sa component.
  • 401. Mali ang key, expired na, o ubos na ang allowance nito.
  • 404. Dapat nagtatapos sa /v1 ang OpenAI API Base, at dapat eksaktong tugma ang Model Name sa ID ng BroadNet. Kailangan ng top-up para sa mga bayad na model; broadnet/gemma-4-26b-a4b at ang dalawang Transcribe model lang ang sakop ng $5 na credit.
  • Walang lamang sagot. Sa DeepSeek V4.1 Flash, GLM 5.3 at Qwen3.8 27B, kasama ang reasoning sa output limit. Taasan ang Max Tokens. Bakit walang laman ang mga sagot.
  • 429. Ang isang pay-as-you-go key ay may 30 request kada minuto at 4 nang sabay-sabay. Tingnan ang errors and retries.

Mga tanong

Bakit hindi lumalabas ang GLM 5.3 o Qwen sa OpenAI Compatible provider?

Ayon sa docs ng Langflow, kinukuha ng provider na iyon ang mga model mula sa /v1/models route ng endpoint. Nang suriin namin noong Nobyembre 16, 2026, dalawang transcription model lang ang nakalista sa /v1/models ng BroadNet, kaya hindi kailanman lalabas ang mga chat model nito. Gamitin na lang ang OpenAI component at i-type ang model name.

Puwede ba akong mag-type ng model na wala sa listahan ng OpenAI component?

Oo. Combobox ang Model Name, na sa input definitions ng Langflow ay nangangahulugang puwedeng maglagay ang user ng custom value. I-type ang buong BroadNet ID, gaya ng broadnet/glm-5.3.

Bakit ayaw ipadala ng Langflow ang key ko sa BroadNet?

Sa Langflow 1.13, hindi ipinapadala sa isang custom endpoint ang API key na galing sa environment ng server, maliban kung pinayagan ng operator ang host. I-set ang LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS=inference.broadnet.ai, o i-paste ang key sa component.

Responses API ba ang ginagamit ng OpenAI component ng Langflow?

Hindi. Bumubuo ito ng ChatOpenAI ng LangChain, na tumatawag sa chat completions para sa mga karaniwang request. Sa test namin, sa /v1/chat/completions ito tumawag.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity