BroadRouter
Magsimula

Magkano talaga ang multi-agent na setup: per token vs flat session

Ng BroadNet Inference team · 4 minutong basa · Nailathala · Na-update

Ang gastos ng multi-agent na setup ay halos ang pinagsamang token ng bawat agent, dagdag ang handoff at paulit-ulit na context. Sinukat ng Anthropic na mga 15 beses ng token ng chat ang ginagamit ng multi-agent research system nito, laban sa 4 na beses para sa isang agent. Kada token, lumalaki ang bill sa bawat agent; sa flat plan, lumalaki ito ayon sa mga agent na sabay na tumatakbo.

Puwedeng mas mabilis matapos at mas malawak ang masaliksik kapag hinati ang task sa orchestrator at mga sub-agent. Pinaparami rin nito ang bill, sa mga paraang hindi halata sa listahan ng presyo. Kinukuwenta ng post na ito ang gastos ng multi-agent na setup kada token at sa flat session, gamit ang inilathalang presyo ng BroadNet para sa DeepSeek V4.1 Flash. Nasa pagpapatakbo ng sabay-sabay na coding agent sa flat rate kung paano bilangin at bilhin ang mga session; pera ang paksa ng post na ito.

Ilang beses na mas maraming token ang ginagamit ng multi-agent system?

Galing sa write-up ng Anthropic tungkol sa multi-agent research system nito ang pinakamalinaw na pampublikong numero. Iniulat nito na “agents typically use about 4× more tokens than chat interactions, and multi-agent systems use about 15× more tokens than chats.” (salin: karaniwang mga 4× na mas maraming token ang ginagamit ng mga agent kaysa sa chat, at mga 15× na mas maraming token ang ginagamit ng multi-agent system kaysa sa chat.) Nakita rin nito na ang paggamit ng token lang ang nagpaliwanag ng 80% ng variance sa mga performance test nito. Mas maraming agent, mas maraming token ang nagagastos, at kadalasang mas maganda ang resulta dahil dito.

Maingat din ang parehong write-up tungkol sa pagiging bagay: “For economic viability, multi-agent systems require tasks where the value of the task is high enough” (salin: para maging sulit sa ekonomiya, kailangan ng multi-agent system ng mga task na sapat ang taas ng halaga) para mabayaran ang dagdag na performance. Binabanggit din nito na mas kaunti ang tunay na sabay-sabay na bahagi ng karamihan ng coding task kaysa sa research.

Kaya makatwirang ipagpalagay sa pagpaplano na 3 hanggang 4 na beses ng bersyong may isang agent ang gastos ng multi-agent na bersyon ng isang task. Puwedeng mas mura ang disenyo mo, o mas malala pa. Sukatin ito.

Saan nanggagaling ang mga dagdag na token?

Multiplier Bakit ito nangyayari
Overhead kada agent Nagpapadala ang bawat sub-agent ng sarili nitong system prompt at tool definition sa bawat tawag
Dobleng pagbasa Binabasa ulit ng mga sub-agent ang parehong file dahil hindi sila naghahati ng context
Pagpasa ng resulta Binabasa ng orchestrator bilang bagong input ang output ng bawat sub-agent
Magkakahiwalay na cache Mas kaunting hit sa cached input dahil iba-iba ang prefix ng bawat agent
Retry Ipinapadala ulit ng pumalyang sub-task ang buong context nito

Ipinapakita ng post tungkol sa token budget ng agent kung paano sukatin ang bawat bahagi kada tawag.

Paano lumalaki ang dalawang paraan ng billing?

Ang pangunahing pagkakaiba ay kung ano ang binibilang ng bawat isa:

  • Kada token (pay as you go): binibilang ang bawat token na ipinapadala at natatanggap ng bawat agent. Magdagdag ng agent, madadagdag ang mga token nito.
  • Flat session: binibilang ang mga request na sabay na tumatakbo. Sa mga unlimited plan ng BroadNet, isang request sa isang pagkakataon ang tinatakbo ng isang session, walang token meter, sa halagang $60 kada buwan sa Full Moon. Apat na session ang kailangan ng apat na agent na sabay na tumatawag sa model. Isa lang ang kailangan ng apat na agent na nagsasalitan.

Ibig sabihin, hindi ginagawang libre ng plan ang multi-agent. May hangganan ang nagagawa ng isang session: sa mga 100 token bawat segundo, mga mga 259 milyon output token kada buwan kung walang tigil itong nagge-generate. Mas maraming token sa parehong oras, mas maraming session.

Ang math ng session, kinuwenta

Ginagamit namin ang full-time na coding agent mula sa post namin tungkol sa flat-rate vs per-token: 1,000M input token kada buwan, 80% naka-cache, 50M output. Sa DeepSeek V4.1 Flash, $65.40 kada buwan iyan kada token.

Setup Buwanang token Bill kada token Session Bill sa plan
Isang agent, buong araw 1× $65.40 1 $60
Orchestrator + 3 sub-agent, lahat abala buong araw 4× 4 × $65.40 4 4 × $60
Parehong team, pa-dagsa ang mga sub-agent, peak overlap na 2 mga 2× 2 × $65.40 2 2 × $60
Apat na magaang agent, tig-side-project na volume 4 × magaan 4 × $14.23 4 4 × $60

Ang ipinapakita ng mga row:

  1. Pabor sa plan ang mga abalang agent, may agwat kada session. Bawat buong-gamit na session ay nakakatipid ng $5.40 kada buwan sa volume na ito. Apat na beses niyan ang natitipid ng apat na session.
  2. Pabor sa mas kaunting session ang mga pa-dagsang sub-agent. Bumili para sa overlap na nakikita mo sa karamihan ng oras. Hindi sinasabi ng mga page ng BroadNet kung maghihintay o tatanggihan ang request na lampas dito, kaya bigyan ang bawat agent ng retry na may backoff para sa concurrency 429.
  3. Pabor sa per token ang magagaang agent. Mas mahal nang husto ang apat na session para sa apat na halos nakatenggang agent kaysa sa mga token nila. Sa side-project na volume, $14.23 kada buwan ang bawat agent kada token.

Ang pangkalahatang patakaran: sulit ang isang session kapag nagpapadaan dito ang mga agent na gumagamit nito ng mga 917 milyon input at 46 milyon output token kada buwan.

Paano tantiyahin ang sarili mong bill?

  1. Patakbuhin ang multi-agent workflow nang isang linggo sa pay-as-you-go na key, na may usage logging kada agent.
  2. Pagsamahin ang token kada agent: input, cached input at output. I-multiply sa mga 4.3 para sa isang buwan.
  3. Mula sa timestamp ng mga request, alamin kung ilang request ang nagsasabay sa karamihan ng oras. Iyan ang bilang ng session mo.
  4. Ikumpara ang per-token na total sa session × $60 sa flat-rate vs per-token calculator.
  5. Bago bumili ng isang buwan, patakbuhin ang parehong workflow sa mga Meteor hour na $1, isa kada session.

Pinapayagan ng pay-as-you-go na key ang 4 request na sabay na tumatakbo at 30 kada minuto, kaya tatamaan din ng malaking fan-out ang rate limit sa per-token na billing. Magplano ng backoff alinman ang piliin; tingnan ang matagal na tumatakbong agent.

Paano bawasan ang gastos ng multi-agent?

  • Magsimula sa isang agent. Magdagdag lang ng sub-agent kung saan malinis na nahahati ang trabaho.
  • Bigyan ang mga sub-agent ng mas kaunting tools at mas maiikling prompt kaysa sa orchestrator.
  • Magbalik ng buod, hindi transcript, mula sa mga sub-agent papunta sa orchestrator.
  • Gumamit ng mas murang model para sa mga sub-agent kung kaya ng kalidad, at itabi ang mas malakas para sa pagpaplano.
  • Patakbuhin nang sunod-sunod ang mga handoff kapag hindi mahalaga ang bilis. Iisang session ang ginagamit ng mga sunod-sunod na agent.

Saan pumapasok ang BroadNet Inference

Bagay ang mga unlimited plan ng BroadNet sa mga multi-agent system na laging abala ang mga agent: $60 kada buwan ang bawat session, walang token meter sa DeepSeek V4.1 Flash, at puwedeng maglaman ng ilang session ang isang key. Bagay ang per-token na key sa pa-dagsang fan-out at sa ibang model gaya ng GLM 5.3. Hindi bagay ang plan sa mga agent na nakatengga sa halos buong araw, at hindi naglilista ang BroadNet ng tool calling para sa DeepSeek V4.1 Flash, kaya subukan muna ang paggamit ng tools ng mga sub-agent mo. Ipinapakita ng guide sa OpenAI Agents SDK ang pagkonekta, at nasa inference.broadnet.ai/plans ang mga plan.

Mga tanong

Gaano kamahal ang multi-agent system kumpara sa isang agent?

Depende sa disenyo, pero nagbibigay ng sukat ang inilathalang numero ng Anthropic. Mga 4 na beses ng token ng chat ang ginamit ng mga agent nito at mga 15 beses ng multi-agent research system nito, kaya mga 3 hanggang 4 na beses ng isang agent para sa parehong tanong.

Mas mura ba ang flat-rate plan para sa multi-agent system?

Kapag laging may ginagawa ang bawat session. Sulit ang Full Moon session ng BroadNet sa mga 917 milyon input at 46 milyon output token kada buwan sa DeepSeek V4.1 Flash. Mas mahal kaysa magbayad kada token ang mga session na nakatengga sa halos buong araw.

Ilang plan session ang kailangan ng orchestrator na may mga sub-agent?

Isa kada request na sabay na tumatakbo. Ang orchestrator na naghihintay habang sabay na nagtatrabaho ang tatlong sub-agent ay nangangailangan ng tatlo o apat, depende kung tumatawag ito sa model sa panahong iyon. Isa lang ang kailangan ng mga handoff na sunod-sunod na tumatakbo.

Bakit ang daming token ng mga sub-agent?

May sariling context ang bawat sub-agent. Nilo-load nito ang sarili nitong system prompt at tool definition, binabasa ulit ang mga file na nabasa na ng ibang agent, at nagbabalik ng resulta na binabasa ulit ng orchestrator.

Sulit ba ang multi-agent system para sa coding?

Minsan. Binabanggit sa write-up ng Anthropic na mas kaunti ang tunay na sabay-sabay na bahagi ng karamihan ng coding task kaysa sa research, at hindi bagay ang mga task na nangangailangan ng shared na context. Subukan muna ang isang agent at magdagdag ng sub-agent kung saan talagang nahahati ang trabaho.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity