에이전트는 루프를 도는 모델입니다. 묻고, 도구로 행동하고, 결과를 읽고, 다시 결정합니다.
작동 방식
Anthropic은 두 가지 설계를 구분합니다. 워크플로는 “systems where LLMs and tools are orchestrated through predefined code paths”(번역: LLM과 도구를 미리 정해진 코드 경로로 조율하는 시스템)입니다. 에이전트는 “LLMs dynamically direct their own processes and tool usage”(번역: LLM이 자신의 처리 과정과 도구 사용을 동적으로 지휘하는) 시스템입니다.
OpenAI Agents SDK는 루프 자체를 문서화합니다. 러너가 모델을 호출합니다. 응답이 최종 답변이면 실행이 끝납니다. 응답에 도구 호출이 있으면 러너가 이를 실행하고, 결과를 덧붙여 모델을 다시 호출합니다. max_turns 설정으로 루프에 상한을 두며, 이를 넘으면 MaxTurnsExceeded가 발생합니다.
예를 들어 실패하는 테스트를 고치라는 요청을 받은 코딩 에이전트는 네 턴이 걸릴 수 있습니다.
Turn 1 model -> tool call: run_tests()
Turn 2 model -> tool call: read_file("src/dates.py")
Turn 3 model -> tool call: edit_file("src/dates.py", ...)
Turn 4 model -> final answer: "Fixed the timezone bug; tests pass."
테스트를 실행하고, 파일을 읽고, 파일을 고친 뒤, 네 번째 턴에서 “시간대 버그를 고쳤고 테스트가 통과한다”는 최종 답변을 냅니다.
턴마다 별도의 API 요청입니다. 시스템 프롬프트와 도구 정의가 5,000토큰이라면 이것이 4번 전송되어, 대화 기록이나 도구 출력을 세기도 전에 입력 토큰이 20,000개가 됩니다.
도구는 직접 만든 함수일 수도 있고 MCP 서버에서 올 수도 있습니다. MCP 서버를 쓰면 에이전트 하나가 공통 프로토콜을 통해 파일 시스템, 데이터베이스, SaaS API에 연결됩니다.
왜 중요한가
- 턴이 늘수록 비용이 늘어납니다. 턴마다 대화를 다시 보내는 새 요청이 생깁니다. 에이전트 토큰 예산 글에서 그 토큰이 어디에 쓰이는지 분석합니다. 캐시된 입력은 반복되는 접두부의 비용을 낮춰 줍니다.
- 컨텍스트가 찹니다. 오래 실행되면 컨텍스트 윈도우 한계에 다가가며, 한계에 닿기 전부터 품질이 떨어집니다. 오래 실행되는 에이전트의 컨텍스트 관리를 참고하세요.
- 오류가 누적됩니다. Anthropic은 자율성에는 “higher costs, and the potential for compounding errors”(번역: 더 높은 비용과 오류가 누적될 가능성)가 따른다고 지적합니다. 중단 조건, 가드레일, 그리고 데이터를 바꾸거나 돈을 쓰는 작업에 대한 사람의 승인을 추가하세요.
- 병렬 실행. 에이전트가 여러 개면 처리 중인 요청도 여러 개입니다. 동시에 몇 개를 돌릴 수 있는지는 제공업체의 동시 실행 한도가 정합니다. 멀티 에이전트 비용 글에서 이 경우의 토큰당 과금과 정액제를 비교합니다.
BroadNet Inference에서는
OpenAI 호환 base URL을 받는 에이전트 프레임워크라면 어떤 것이든 BroadNet을 호출할 수 있습니다. 설정 방법은 OpenAI Agents SDK 가이드에 있습니다. BroadNet 문서는 GLM 5.3과 Qwen3.8 27B에 도구 호출을 표기합니다. BroadNet 문서에 따르면 종량제 키는 분당 30 요청, 동시 처리 4 건까지 허용합니다.
정액제 플랜(Full Moon, Orbit, Meteor)은 토큰 미터 없이 DeepSeek V4.1 Flash를 제공합니다. 세션 하나는 에이전트 하나가 일하는 방식대로 한 번에 요청 하나를 처리하므로, 병렬로 돌릴 에이전트 수만큼 세션을 구매하면 됩니다. BroadNet 문서는 DeepSeek V4.1 Flash의 도구 호출 지원을 명시하지 않으므로, 플랜에 의존하기 전에 에이전트의 도구 호출을 이 모델로 먼저 테스트하세요. 문서화된 도구 호출이 필요하다면 종량제의 GLM 5.3이나 Qwen3.8 27B를 쓰세요.