BroadRouter

n8n AI Agent sa murang LLM: setup, pagpili ng model at gastos kada run

Ng BroadNet Inference team · 5 minutong basa · Nailathala · Na-update

Ituro ang OpenAI credential ng n8n sa murang OpenAI-compatible API, ilagay ang model gamit ang ID nito at i-off ang Use Responses API. Bigyan ang AI Agent ng model na may tool calling, gaya ng Qwen3.8 27B o GLM 5.3. Panatilihing mababa ang Max Iterations, maikli ang memory at kaunti ang tools, at ipasa muna sa mas murang model ang simpleng classification.

Pinapadali ng AI Agent node ng n8n ang paggawa ng assistant na nagbabasa ng email, naghahanap ng record at sumasagot. Pinapadali rin nito ang paggastos nang higit sa plano mo, dahil puwedeng tumawag sa model nang hanggang sampung beses ang bawat run, at ipinapadala ulit ang buong prompt bawat beses. Ipinapakita ng post na ito kung paano patakbuhin ang AI Agent workflow sa murang OpenAI-compatible na model, aling model ang pipiliin para sa tools, aling mga setting ang nagbabawas ng token, at magkano ang isang run. Para sa mismong setup ng credential at node, sundin ang aming setup guide para sa n8n.

Paano ikonekta ang AI Agent sa mas murang model?

  1. Gumawa ng OpenAI credential gamit ang key ng provider mo at ang Base URL nito, halimbawa https://inference.broadnet.ai/v1.
  2. Magdagdag ng AI Agent node at ikabit ang OpenAI Chat Model sub-node na may credential na iyon.
  3. Ilagay ang model gamit ang ID, hindi mula sa listahan, halimbawa broadnet/qwen3.8-27b.
  4. I-off ang Use Responses API kung chat completions ang sine-serve ng provider mo, gaya ng BroadNet.
  5. Ikabit ang kahit isang tool. Sabi ng docs ng n8n, kailangan mong ikonekta ang kahit isang tool sub-node sa AI Agent.

Kapag nag-set ka ng Base URL na hindi OpenAI, nagpapakita ang n8n ng abiso na hindi lahat ng model ay sumusuporta sa tools o sa JSON response format. Seryosohin ito: ito ang magdedesisyon sa pagpili mo ng model.

Aling murang model ang kaya ang tools ng n8n?

Sabi ng docs ng n8n, gumagana na ngayon ang lahat ng AI Agent node bilang Tools Agent. Kailangang maaasahang maglabas ang model ng tool call, kung hindi ay magloo-loop ang agent o sasagot nang hindi ginagamit ang tools mo.

Model sa BroadNet May nakalistang tools Context Pinakamagandang gamit sa n8n
Qwen3.8 27B Oo 262,144 Default para sa AI Agent; image input, nasubukan sa Arabic
GLM 5.3 Oo 1,048,576 Agent para sa mahahabang dokumento
Gemma 4 VL 26B Hindi nakalista 32,768 Basic LLM Chain: classify, extract, route
DeepSeek V4.1 Flash Hindi nakalista 1,048,576 Chain para sa mahahabang dokumento, image input; subukan muna bago gamitin sa agent

Ang Qwen3.8 27B ang mas mura sa input sa dalawang model na may tools, at input-heavy ang mga agent ng n8n. Doon magsimula at lumipat sa GLM 5.3 kung ipinapakita ng mga test mo na mas mahusay nitong hawakan ang tools mo; inihahambing ng GLM 5.3 vs Qwen3.8 27B ang dalawa.

Saan gumagastos ng token ang n8n agent?

Bawat iteration ay hiwalay na tawag sa model na may dalang:

  • ang System Message na isinulat mo,
  • ang definition ng bawat nakakonektang tool, kasama ang lahat ng tools mula sa MCP Client Tool node na naka-set sa All,
  • ang memory window mula sa Simple Memory,
  • ang input ng user, at ang mga naunang tool call at resulta sa run na ito.

Kadalasang maikli ang output. Kaya ang laki ng input na pinarami sa bilang ng iteration ang nagtutulak sa bill. Ipinapakita ng post namin tungkol sa token budget ng agent kung paano sukatin ang bawat bahagi.

Aling mga setting ang pinakamalaki ang nababawas sa gastos?

  1. Max Iterations. Default ito sa 10. Karamihan ng agent na pang-support ay natatapos sa 2 hanggang 4. I-set ito sa 4 o 5 para maagang huminto ang nalilitong run.
  2. Context Window Length ng Simple Memory. Itinatakda nito kung ilang naunang interaction ang itinatago. Ipinapadala ulit ang bawat isa sa bawat iteration. Panatilihin itong maliit, halimbawa 5.
  3. Mas kaunting tools. Sa MCP Client Tool node, gamitin ang Selected o All Except sa halip na All.
  4. Maikling tool output. Ipabalik sa mga HTTP Request tool ang mga field lang na kailangan ng agent, hindi ang buong API response.
  5. Maximum Number of Tokens. Nagre-reason muna ang Qwen3.8 27B at GLM 5.3, at binibilang ang reasoning sa limit. Iwan ito sa default o i-set sa ilang libo. Kapag masyadong maliit, walang laman ang output.
  6. Mag-route bago ang agent. Maglagay ng Basic LLM Chain sa Gemma 4 VL 26B sa harap para i-classify ang mga request. Ang mga nangangailangan lang ng tools ang aabot sa agent.

Para sa nakapirming hugis ng output, i-on ang Require Specific Output Format at ikabit ang Structured Output Parser. Mas mura ito kaysa ipa-reformat sa agent. Higit pa sa structured output.

Magkano ang isang run ng n8n agent?

Halimbawa, isang support agent: 3 iteration kada run, mga 4,000 input token at 300 output token kada iteration. 12,000 input at 900 output token iyan kada run. Sa 10,000 run kada buwan:

Buwanang token Qwen3.8 27B GLM 5.3
120M input $0.175 kada 1M $0.78 kada 1M
9M output $2.17 kada 1M $3.46 kada 1M

I-multiply at pagsamahin. Sa presyong na-sync noong 2026-11-14, mga 3 beses na mas mahal ang GLM 5.3 kaysa sa Qwen3.8 27B para sa workflow na ito, bago ang anumang cache discount. Kapag hinati sa dalawa ang iteration, halos nahahati rin ang linya ng input sa alinmang model; ang mas maikling memory window ay nagbabawas dito ayon sa bahagi ng bawat prompt na kinakain ng memory.

Maliit lang ang idinadagdag ng routing step sa Gemma 4 VL 26B: ang 10,000 classification na may 800 input at 20 output token ay 8M input sa $0.10 kada 1M at 0.2M output sa $0.22 kada 1M. Kung 40% ng request ay hindi na umaabot sa agent, 40% ng linya ng agent ang natitipid. Para sa tuloy-tuloy na mataas na volume sa Gemma, nagbebenta rin ang BroadNet ng flat na hourly key sa halagang $0.50 kada oras: 120 request kada minuto, isang stream, 300,000 token kada minuto.

Ilagay ang sarili mong numero sa LLM API cost calculator, at tingnan kung gaano kalayo ang aabutin ng 30 request kada minuto sa rate limit calculator.

Ano ang nasisira kapag murang model ang gamit sa n8n?

  • Hindi pinapansin ng agent ang tools. Hindi nakalista ang model na may suporta sa tools. Lumipat sa Qwen3.8 27B o GLM 5.3.
  • “Bad request”. Kadalasan, ang toggle ng Responses API. Nasa setup guide ang mga ayos.
  • 429 sa mga batch. Pinapayagan ng pay-as-you-go na key ang 30 request kada minuto at 4 nang sabay. Gamitin ang Loop Over Items na may Wait node. Tingnan ang mga error at retry.
  • MCP tools. Hinahayaan ng MCP Client Tool node ang agent na tumawag sa external na MCP server. Basahin muna ang MCP sa OpenAI-compatible na model.

Saan pumapasok ang BroadNet Inference

Binibigyan ng BroadNet Inference ang n8n ng iisang OpenAI-compatible na credential para sa Qwen3.8 27B at GLM 5.3 na may tools, Gemma 4 VL 26B para sa murang routing, at hourly na Gemma key na $0.50 para sa tuloy-tuloy na batch. Makakatanggap ang mga bagong account ng $5 na credit, na sumasakop sa Gemma 4 VL 26B; kailangan ng top-up ang mga model na may tools. Hindi ito bagay sa workflow na nangangailangan ng mga feature na sa OpenAI lang, gaya ng built-in na tools ng Responses API. Gumawa ng key sa inference.broadnet.ai.

Mga tanong

Puwede ba akong gumamit ng murang LLM sa AI Agent node ng n8n?

Oo. Ginagamit ng OpenAI Chat Model sub-node ang OpenAI credential, na may Base URL field. Ituro ito sa kahit anong OpenAI-compatible API, ilagay ang model gamit ang ID nito at i-off ang Use Responses API kung chat completions ang sine-serve ng provider mo.

Aling murang model ang gumagana sa tools ng n8n?

Isang model na may suporta sa tool calling, dahil laging gumagana bilang Tools Agent ang AI Agent. Sa BroadNet Inference, may nakalistang suporta sa tools ang Qwen3.8 27B at GLM 5.3. Mas mura ang Gemma 4 VL 26B pero hindi ito nakalistang may tools, kaya gamitin ito sa Basic LLM Chain sa halip.

Bakit ang mahal ng n8n AI Agent ko?

Ipinapadala ulit ng bawat iteration ang system message, bawat tool definition at ang memory window. Ang agent na limang beses nag-loop na may sampung tools at mahabang memory ay nagbabasa ng ilang beses na mas maraming token kaysa sa tinype ng user. Ibaba ang Max Iterations, bawasan ang tools at paikliin ang memory.

Ano ang ginagawa ng Max Iterations sa n8n AI Agent?

Nililimitahan nito kung ilang beses tatakbo ang model para makabuo ng sagot. Default ang 10. Bawat iteration ay hiwalay na tawag sa model na hiwalay ding sinisingil.

Bakit tinatamaan ng 429 error ang n8n agent ko?

Naghahati sa mga limit ng key ang sabay-sabay na execution at mga loop. Pinapayagan ng pay-as-you-go na key ng BroadNet ang 30 request kada minuto at 4 nang sabay. Pabagalin ang mga batch gamit ang Loop Over Items at Wait node.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity