BroadRouter
Magsimula

AI agent

Na-update

Ang AI agent ay isang system kung saan ang language model mismo ang nagdidirekta ng mga hakbang nito tungo sa isang layunin: pinipili nito kung aling tools ang tatawagin, binabasa ang mga resulta at umuulit hanggang makabuo ng huling sagot o maabot ang limit. Workflow naman ang karaniwang tawag sa fixed na script na tumatawag sa model sa takdang punto.

Tinatawag ding: ano ang AI agent, agent, LLM agent, agentic AI, autonomous agent, agent loop, AI agents

Ang agent ay model na nasa loop: magtanong, kumilos gamit ang tool, basahin ang resulta, magpasya ulit.

Paano ito gumagana

Dalawang disenyo ang pinaghihiwalay ng Anthropic. Ang workflows ay “systems where LLMs and tools are orchestrated through predefined code paths.” (Salin ng BroadRouter: “mga system kung saan pinapatakbo ang mga LLM at tool sa mga nakatakdang code path.”) Ang agents naman ay mga system kung saan “LLMs dynamically direct their own processes and tool usage.” (Salin ng BroadRouter: “ang mga LLM mismo ang dinamikong nagdidirekta ng sarili nilang proseso at paggamit ng tool.”)

Idinodokumento ng OpenAI Agents SDK ang mismong loop. Tinatawag ng runner ang model. Kung huling sagot ang reply, tapos na ang run. Kung may tool calls ito, pinapatakbo ng runner ang mga iyon, idinadagdag ang mga resulta at tinatawag ulit ang model. Nililimitahan ng max_turns setting ang loop at naglalabas ito ng MaxTurnsExceeded kapag nalampasan.

Isang halimbawa: puwedeng umabot sa apat na turn ang isang coding agent na inutusang ayusin ang pumapalyang test. Sa turn 1, pinapatakbo nito ang mga test; sa turn 2, binabasa ang src/dates.py; sa turn 3, ine-edit ang file; at sa turn 4, nagbibigay ito ng huling sagot na naayos na ang timezone bug at pumapasa na ang mga test.

Turn 1  model -> tool call: run_tests()
Turn 2  model -> tool call: read_file("src/dates.py")
Turn 3  model -> tool call: edit_file("src/dates.py", ...)
Turn 4  model -> final answer: "Fixed the timezone bug; tests pass."

Hiwalay na API request ang bawat turn. Kung 5,000 token ang system prompt at tool definitions, 4 na beses itong ipapadala: 20,000 input token bago pa mabilang ang anumang history o tool output.

Puwedeng sarili mong function ang tools o galing sa mga MCP server, na nagpapahintulot sa isang agent na kumonekta sa mga file system, database at SaaS API sa pamamagitan ng iisang protocol.

Bakit ito mahalaga

  • Lumalaki ang gastos kasabay ng mga turn. Bawat turn ay bagong request na nagpapadala ulit ng usapan. Hinihimay ng post na agent token budget kung saan napupunta ang mga token na iyon. Pinabababa ng cached input ang singil para sa paulit-ulit na prefix.
  • Napupuno ang context. Tumatama sa context window ang mahahabang run at lumalala ang kalidad bago pa man ito maabot. Tingnan ang context management para sa mga long-running agent.
  • Nagpapatong-patong ang mga error. Ayon sa Anthropic, may kasamang “higher costs, and the potential for compounding errors” (Salin ng BroadRouter: “mas mataas na gastos, at posibilidad ng nagpapatong-patong na error”) ang autonomy. Magdagdag ng stopping conditions, guardrails at pag-apruba ng tao para sa mga aksyong nagbabago ng data o gumagastos ng pera.
  • Parallelism. Ang ilang agent ay ilang request na sabay-sabay na tumatakbo. Ang concurrency limit ng provider mo ang nagpapasya kung ilan ang puwedeng sabay. Kinukumpara ng multi-agent cost ang per-token at flat na presyo para sa ganitong kaso.

Sa BroadNet Inference

Kayang tawagin ang BroadNet ng anumang agent framework na tumatanggap ng OpenAI-compatible na base URL; ipinapakita ng gabay sa OpenAI Agents SDK ang setup. Nakalista sa docs ng BroadNet ang tool calling para sa GLM 5.3 at Qwen3.8 27B. Ayon sa docs ng BroadNet, may 30 request kada minuto at 4 na sabay-sabay na request ang isang pay-as-you-go key.

Sakop ng mga flat-rate plan (Full Moon, Orbit, Meteor) ang DeepSeek V4.1 Flash nang walang token meter. Isang request lang sa isang pagkakataon ang pinapatakbo ng isang session, gaya ng paggana ng iisang agent, kaya bibili ka ng isang session kada agent na sabay mong pinapatakbo. Hindi nakalista sa docs ng BroadNet ang tool calling para sa DeepSeek V4.1 Flash, kaya subukan muna ang mga tool call ng agent mo rito bago ka umasa sa isang plan; ang may dokumentadong tool calling ay GLM 5.3 o Qwen3.8 27B sa pay-as-you-go.

Mga tanong

Ano ang pagkakaiba ng agent at workflow?

Sa workflow, ang code mo ang nagtatakda ng pagkakasunod ng mga model at tool call. Sa agent, ang model ang pumipili ng susunod na hakbang bawat turn. Ganito mismo ang hatian sa gabay ng Anthropic.

Bakit magastos patakbuhin ang agent sa per-token na presyo?

Ipinapadala ulit sa bawat turn ang system prompt, tool definitions at ang lumalaking history bilang input token. Puwedeng singilin nang 50 beses ang parehong prefix sa isang task na may 50 turn, kaya mahalaga ang cached input at ang mga flat plan.

Paano ko pipigilan ang agent na umikot nang walang katapusan?

Mag-set ng maximum na bilang ng turn at budget sa token o oras. Halimbawa, naglalabas ang OpenAI Agents SDK ng MaxTurnsExceeded kapag lumampas ang isang run sa max_turns limit nito.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity