BroadRouter

Flowise at BroadNet Inference: gamit ang OpenAI Custom Model

Na-update

Sa isang Flowise chatflow, idagdag ang OpenAI Custom Model chat model node. Ikabit ang OpenAI API credential na may BroadNet key mo, i-type ang BroadNet model ID gaya ng broadnet/glm-5.3 sa Model Name, at sa Additional Parameters, i-set ang Base Path sa https://inference.broadnet.ai/v1. Chat completions ang ginagamit ng node. Piliin ang GLM 5.3 o Qwen3.8 27B para sa mga agent na tumatawag ng tools.

Open-source at low-code na builder ang Flowise para sa mga LLM app at agent. Ang OpenAI Custom Model chat model node nito ay ginawa para sa mga OpenAI-compatible na API: ikaw ang magta-type ng model name at magse-set ng base path. Nagse-serve ang BroadNet Inference ng chat completions sa https://inference.broadnet.ai/v1, kaya ang node na iyon ang gagamitin. Ang BroadRouter ay sariling site ng BroadNet; sinusundan ng mga hakbang ang source code ng node sa Flowise 3.1.4, dahil walang page para sa node na ito ang docs ng Flowise.

Setup

  1. Gumawa ng credential. Sa Flowise, buksan ang Credentials, magdagdag ng OpenAI API credential, pangalanan itong “BroadNet” at i-paste ang BroadNet key mo sa OpenAi Api Key.

  2. Idagdag ang node. Sa isang chatflow, idagdag ang Chat Models → OpenAI Custom Model.

  3. Punan ang node:

    Field Value
    Connect Credential ang BroadNet credential
    Model Name broadnet/glm-5.3
    Temperature 0.9 bilang default; babaan para sa extraction
    Streaming (Additional Parameters) naka-on (ang default)
    Max Tokens (Additional Parameters) 4000
    Base Path (Additional Parameters) https://inference.broadnet.ai/v1
  4. Ikabit ito sa isang chain o agent node, i-save, at magpadala ng test message sa chat panel. Kapag may sagot, tama ang key, URL at model name.

Ano ang ginagawa ng mga field

  • Model Name ang ipinapadala bilang model ID. I-type ang ID ng BroadNet kasama ang broadnet/ prefix. Hindi kumukuha ng listahan ng model ang node, kaya hindi nakakaabala ang /v1/models ng BroadNet, na mga transcription model lang ang nakalista nang suriin namin noong Nobyembre 16, 2026.
  • Base Path ang nagiging base URL ng client. Idinadagdag ng Flowise ang /chat/completions.
  • Max Tokens ay ipinapadala bilang max_tokens. Nagre-reason muna bago sumagot ang DeepSeek V4.1 Flash, GLM 5.3 at Qwen3.8 27B, at kasama ang reasoning sa bilang na ito, kaya huwag itong i-set nang mababa.
  • Base Options ay tumatanggap ng JSON headers na idadagdag sa bawat request. Walang kailangan ang BroadNet dito.

Bakit hindi ang karaniwang ChatOpenAI node?

May Base Path field din ang ChatOpenAI node, pero sa Flowise 3.1.4, drop-down ang Model Name nito na pinupuno ng listModels method, at gpt-4o-mini ang default. Free-text naman ang Model Name ng OpenAI Custom Model node, at inilalarawan ito ng source code nito bilang para sa “OpenAI Chat compatible API” (Salin: API na compatible sa OpenAI Chat), na siyang ibinibigay ng BroadNet.

Aling model ang pipiliin

Flow Model
Mga tool agent, structured output parser broadnet/glm-5.3
Mga agent na nagbabasa ng larawan o Arabic na teksto broadnet/qwen3.8-27b
Mga conversational at retrieval chain, mahahabang dokumento broadnet/deepseek-v4.1-flash
Pagsubok sa Flowise gamit ang panimulang credit broadnet/gemma-4-26b-a4b (32,768-token na context)

Sa GLM 5.3 at Qwen3.8 27B lang nakalista ang tools at structured output sa docs ng BroadNet. Mga presyo ng bawat model.

Paano namin ito sinubok

Hindi kami nagpatakbo ng Flowise server. Noong 2026-11-15, binasa namin ang source code ng OpenAI Custom Model node sa flowise@3.1.4 tag, saka binuo namin ang parehong ChatOpenAI object na binubuo nito, gamit ang @langchain/openai 1.2.5, ang version na naka-pin sa Flowise 3.1.4. Nagpadala kami ng streamed message at isang tool call sa isang lokal na mock server na sumusunod sa chat-completions na format ng BroadNet. Pumunta ang dalawang request sa /v1/chat/completions nang hindi nagbago ang model ID na broadnet/glm-5.3, may Bearer key, max_tokens: 4000, temperature: 0.9 at stream: true, at bumalik nang naka-parse ang tool call. Wala kaming BroadNet key, kaya hindi namin sinubok ang totoong output ng model. Galing sa source code ang mga label ng field; ikumpara ang mga ito sa version ng Flowise mo.

Troubleshooting

  • 401. Maling key ang nasa credential, o expired na ang key o ubos na ang allowance nito.
  • 404. Dapat nagtatapos sa /v1 ang Base Path. Dapat eksaktong tugma ang Model Name sa ID ng BroadNet. Kailangan ng top-up para sa mga bayad na model; ang broadnet/gemma-4-26b-a4b at ang dalawang Transcribe model lang ang sakop ng $5 na credit.
  • Walang lamang sagot. Taasan ang Max Tokens. Bakit walang laman ang mga sagot.
  • Sumasagot ang agent nang hindi gumagamit ng tools. Lumipat sa broadnet/glm-5.3 o broadnet/qwen3.8-27b.
  • 429 kapag mabigat ang load. Ang isang pay-as-you-go key ay may 30 request kada minuto at 4 nang sabay-sabay. Tingnan ang errors and retries.

Mga tanong

Aling Flowise node ang gagamitin ko para sa BroadNet?

Ang OpenAI Custom Model (chatOpenAICustom). Inilalarawan ito ng source code nito bilang custom model na gumagamit ng OpenAI chat-compatible na API. Free-text field ang Model Name, kaya puwede kang mag-type ng BroadNet ID, at ang Base Path ang nagpapalit ng URL.

Nasaan ang Base Path field sa Flowise?

Optional na field ito sa OpenAI Custom Model node, na makikita sa ilalim ng Additional Parameters. I-set ito sa https://inference.broadnet.ai/v1, kasama ang /v1 at wala nang ibang path.

Anong credential ang ginagamit ng OpenAI Custom Model node?

Isang OpenAI API credential (openAIApi). Gumawa nito gamit ang BroadNet key mo bilang API key. Ipinapadala ito ng Flowise bilang Bearer token sa Base Path.

Bakit parang mataas ang default na temperature?

0.9 ang default na temperature ng node. Babaan ito para sa mga extraction o classification flow.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity