Ang agent ay model na nasa loop: magtanong, kumilos gamit ang tool, basahin ang resulta, magpasya ulit.
Paano ito gumagana
Dalawang disenyo ang pinaghihiwalay ng Anthropic. Ang workflows ay “systems where LLMs and tools are orchestrated through predefined code paths.” (Salin ng BroadRouter: “mga system kung saan pinapatakbo ang mga LLM at tool sa mga nakatakdang code path.”) Ang agents naman ay mga system kung saan “LLMs dynamically direct their own processes and tool usage.” (Salin ng BroadRouter: “ang mga LLM mismo ang dinamikong nagdidirekta ng sarili nilang proseso at paggamit ng tool.”)
Idinodokumento ng OpenAI Agents SDK ang mismong loop. Tinatawag ng runner ang model. Kung huling sagot ang reply, tapos na ang run. Kung may tool calls ito, pinapatakbo ng runner ang mga iyon, idinadagdag ang mga resulta at tinatawag ulit ang model. Nililimitahan ng max_turns setting ang loop at naglalabas ito ng MaxTurnsExceeded kapag nalampasan.
Isang halimbawa: puwedeng umabot sa apat na turn ang isang coding agent na inutusang ayusin ang pumapalyang test. Sa turn 1, pinapatakbo nito ang mga test; sa turn 2, binabasa ang src/dates.py; sa turn 3, ine-edit ang file; at sa turn 4, nagbibigay ito ng huling sagot na naayos na ang timezone bug at pumapasa na ang mga test.
Turn 1 model -> tool call: run_tests()
Turn 2 model -> tool call: read_file("src/dates.py")
Turn 3 model -> tool call: edit_file("src/dates.py", ...)
Turn 4 model -> final answer: "Fixed the timezone bug; tests pass."
Hiwalay na API request ang bawat turn. Kung 5,000 token ang system prompt at tool definitions, 4 na beses itong ipapadala: 20,000 input token bago pa mabilang ang anumang history o tool output.
Puwedeng sarili mong function ang tools o galing sa mga MCP server, na nagpapahintulot sa isang agent na kumonekta sa mga file system, database at SaaS API sa pamamagitan ng iisang protocol.
Bakit ito mahalaga
- Lumalaki ang gastos kasabay ng mga turn. Bawat turn ay bagong request na nagpapadala ulit ng usapan. Hinihimay ng post na agent token budget kung saan napupunta ang mga token na iyon. Pinabababa ng cached input ang singil para sa paulit-ulit na prefix.
- Napupuno ang context. Tumatama sa context window ang mahahabang run at lumalala ang kalidad bago pa man ito maabot. Tingnan ang context management para sa mga long-running agent.
- Nagpapatong-patong ang mga error. Ayon sa Anthropic, may kasamang “higher costs, and the potential for compounding errors” (Salin ng BroadRouter: “mas mataas na gastos, at posibilidad ng nagpapatong-patong na error”) ang autonomy. Magdagdag ng stopping conditions, guardrails at pag-apruba ng tao para sa mga aksyong nagbabago ng data o gumagastos ng pera.
- Parallelism. Ang ilang agent ay ilang request na sabay-sabay na tumatakbo. Ang concurrency limit ng provider mo ang nagpapasya kung ilan ang puwedeng sabay. Kinukumpara ng multi-agent cost ang per-token at flat na presyo para sa ganitong kaso.
Sa BroadNet Inference
Kayang tawagin ang BroadNet ng anumang agent framework na tumatanggap ng OpenAI-compatible na base URL; ipinapakita ng gabay sa OpenAI Agents SDK ang setup. Nakalista sa docs ng BroadNet ang tool calling para sa GLM 5.3 at Qwen3.8 27B. Ayon sa docs ng BroadNet, may 30 request kada minuto at 4 na sabay-sabay na request ang isang pay-as-you-go key.
Sakop ng mga flat-rate plan (Full Moon, Orbit, Meteor) ang DeepSeek V4.1 Flash nang walang token meter. Isang request lang sa isang pagkakataon ang pinapatakbo ng isang session, gaya ng paggana ng iisang agent, kaya bibili ka ng isang session kada agent na sabay mong pinapatakbo. Hindi nakalista sa docs ng BroadNet ang tool calling para sa DeepSeek V4.1 Flash, kaya subukan muna ang mga tool call ng agent mo rito bago ka umasa sa isang plan; ang may dokumentadong tool calling ay GLM 5.3 o Qwen3.8 27B sa pay-as-you-go.