智能体就是在循环中运行的模型:提问、用工具行动、读取结果、再次决策。
工作原理
Anthropic 区分了两种设计。工作流是 “systems where LLMs and tools are orchestrated through predefined code paths.”(译文:通过预先定义的代码路径来编排大模型和工具的系统。)智能体则是 “LLMs dynamically direct their own processes and tool usage.”(译文:由大模型动态主导自身流程和工具使用的系统。)
OpenAI Agents SDK 记录了这个循环本身。运行器调用模型;如果回复是最终回答,运行结束;如果其中包含工具调用,运行器就执行它们、追加结果,然后再次调用模型。max_turns 设置给循环设上限,超过时抛出 MaxTurnsExceeded。
举个例子:让一个编程智能体修复一个失败的测试,可能需要四轮。
Turn 1 model -> tool call: run_tests()
Turn 2 model -> tool call: read_file("src/dates.py")
Turn 3 model -> tool call: edit_file("src/dates.py", ...)
Turn 4 model -> final answer: "Fixed the timezone bug; tests pass."
依次是:运行测试、读取文件、编辑文件,最后给出回答”修复了时区 bug,测试通过”。
每一轮都是一个独立的 API 请求。如果系统提示词和工具定义合计 5,000 token,它们会被发送 4 次:在计入任何历史或工具输出之前,就已经是 20,000 个输入 token。
工具可以是你自己的函数,也可以来自 MCP 服务器,后者让一个智能体通过共享协议接入文件系统、数据库和 SaaS API。
为什么重要
- 费用随轮数增长。 每一轮都是一个新请求,会重新发送对话。智能体 token 预算一文拆解了这些 token 的去向。缓存输入可以降低重复前缀的费用。
- 上下文会被填满。 长时间运行会逼近上下文窗口,而且在真正撑满之前效果就会变差。参见长时间运行智能体的上下文管理。
- 错误会累积。 Anthropic 指出,自主性带来 “higher costs, and the potential for compounding errors.”(译文:更高的成本,以及错误累积的可能。)请为修改数据或花钱的操作加上停止条件、护栏和人工审批。
- 并行。 多个智能体意味着多个同时进行的请求。服务商的并发限制决定了同时能跑多少个。多智能体的成本一文针对这种情况比较了按 token 计费和固定价格。
在 BroadNet Inference 上
任何接受 OpenAI 兼容 base URL 的智能体框架都可以调用 BroadNet;配置方法见 OpenAI Agents SDK 指南。BroadNet 的文档为 GLM 5.3 和 Qwen3.8 27B 列出了工具调用。BroadNet 的文档规定,按量付费密钥每分钟 30 个请求,同时最多 4 个进行中的请求。
固定价格套餐(Full Moon、Orbit、Meteor)覆盖 DeepSeek V4.1 Flash,不计 token。一个会话同一时间只处理一个请求,正好对应单个智能体的工作方式,所以有几个并行运行的智能体,就买几个会话。BroadNet 的文档没有列出 DeepSeek V4.1 Flash 支持工具调用,所以在依赖套餐之前,请先在它上面测试你的智能体的工具调用;有文档说明的工具调用,需使用按量付费的 GLM 5.3 或 Qwen3.8 27B。