BroadRouter
시작하기

AI 에이전트(AI agent)

업데이트

AI 에이전트는 언어 모델이 목표를 향해 스스로 단계를 정하는 시스템입니다. 어떤 도구를 호출할지 결정하고, 결과를 읽고, 최종 답변을 내거나 한도에 닿을 때까지 이를 반복합니다. 정해진 지점에서 모델을 호출하는 고정된 스크립트는 보통 워크플로라고 부릅니다.

다른 이름: 에이전트, LLM 에이전트, 에이전틱 AI, 자율 에이전트, 에이전트 루프, AI 에이전트, LLM agent, agentic AI, autonomous agent, agent loop, AI agents

에이전트는 루프를 도는 모델입니다. 묻고, 도구로 행동하고, 결과를 읽고, 다시 결정합니다.

작동 방식

Anthropic은 두 가지 설계를 구분합니다. 워크플로는 “systems where LLMs and tools are orchestrated through predefined code paths”(번역: LLM과 도구를 미리 정해진 코드 경로로 조율하는 시스템)입니다. 에이전트는 “LLMs dynamically direct their own processes and tool usage”(번역: LLM이 자신의 처리 과정과 도구 사용을 동적으로 지휘하는) 시스템입니다.

OpenAI Agents SDK는 루프 자체를 문서화합니다. 러너가 모델을 호출합니다. 응답이 최종 답변이면 실행이 끝납니다. 응답에 도구 호출이 있으면 러너가 이를 실행하고, 결과를 덧붙여 모델을 다시 호출합니다. max_turns 설정으로 루프에 상한을 두며, 이를 넘으면 MaxTurnsExceeded가 발생합니다.

예를 들어 실패하는 테스트를 고치라는 요청을 받은 코딩 에이전트는 네 턴이 걸릴 수 있습니다.

Turn 1  model -> tool call: run_tests()
Turn 2  model -> tool call: read_file("src/dates.py")
Turn 3  model -> tool call: edit_file("src/dates.py", ...)
Turn 4  model -> final answer: "Fixed the timezone bug; tests pass."

테스트를 실행하고, 파일을 읽고, 파일을 고친 뒤, 네 번째 턴에서 “시간대 버그를 고쳤고 테스트가 통과한다”는 최종 답변을 냅니다.

턴마다 별도의 API 요청입니다. 시스템 프롬프트와 도구 정의가 5,000토큰이라면 이것이 4번 전송되어, 대화 기록이나 도구 출력을 세기도 전에 입력 토큰이 20,000개가 됩니다.

도구는 직접 만든 함수일 수도 있고 MCP 서버에서 올 수도 있습니다. MCP 서버를 쓰면 에이전트 하나가 공통 프로토콜을 통해 파일 시스템, 데이터베이스, SaaS API에 연결됩니다.

왜 중요한가

  • 턴이 늘수록 비용이 늘어납니다. 턴마다 대화를 다시 보내는 새 요청이 생깁니다. 에이전트 토큰 예산 글에서 그 토큰이 어디에 쓰이는지 분석합니다. 캐시된 입력은 반복되는 접두부의 비용을 낮춰 줍니다.
  • 컨텍스트가 찹니다. 오래 실행되면 컨텍스트 윈도우 한계에 다가가며, 한계에 닿기 전부터 품질이 떨어집니다. 오래 실행되는 에이전트의 컨텍스트 관리를 참고하세요.
  • 오류가 누적됩니다. Anthropic은 자율성에는 “higher costs, and the potential for compounding errors”(번역: 더 높은 비용과 오류가 누적될 가능성)가 따른다고 지적합니다. 중단 조건, 가드레일, 그리고 데이터를 바꾸거나 돈을 쓰는 작업에 대한 사람의 승인을 추가하세요.
  • 병렬 실행. 에이전트가 여러 개면 처리 중인 요청도 여러 개입니다. 동시에 몇 개를 돌릴 수 있는지는 제공업체의 동시 실행 한도가 정합니다. 멀티 에이전트 비용 글에서 이 경우의 토큰당 과금과 정액제를 비교합니다.

BroadNet Inference에서는

OpenAI 호환 base URL을 받는 에이전트 프레임워크라면 어떤 것이든 BroadNet을 호출할 수 있습니다. 설정 방법은 OpenAI Agents SDK 가이드에 있습니다. BroadNet 문서는 GLM 5.3과 Qwen3.8 27B에 도구 호출을 표기합니다. BroadNet 문서에 따르면 종량제 키는 분당 30 요청, 동시 처리 4 건까지 허용합니다.

정액제 플랜(Full Moon, Orbit, Meteor)은 토큰 미터 없이 DeepSeek V4.1 Flash를 제공합니다. 세션 하나는 에이전트 하나가 일하는 방식대로 한 번에 요청 하나를 처리하므로, 병렬로 돌릴 에이전트 수만큼 세션을 구매하면 됩니다. BroadNet 문서는 DeepSeek V4.1 Flash의 도구 호출 지원을 명시하지 않으므로, 플랜에 의존하기 전에 에이전트의 도구 호출을 이 모델로 먼저 테스트하세요. 문서화된 도구 호출이 필요하다면 종량제의 GLM 5.3이나 Qwen3.8 27B를 쓰세요.

자주 묻는 질문

에이전트와 워크플로는 어떻게 다른가요?

워크플로에서는 코드가 모델 호출과 도구 호출의 순서를 정합니다. 에이전트에서는 매 턴마다 모델이 다음 단계를 고릅니다. Anthropic 가이드도 정확히 이렇게 구분합니다.

토큰당 과금에서 에이전트 운영 비용이 비싼 이유는 무엇인가요?

턴마다 시스템 프롬프트, 도구 정의, 점점 길어지는 대화 기록이 입력 토큰으로 다시 전송되기 때문입니다. 50턴짜리 작업은 같은 접두부를 50번 과금할 수 있으며, 그래서 캐시된 입력과 정액제 플랜이 중요합니다.

에이전트가 끝없이 루프를 돌지 않게 하려면 어떻게 하나요?

최대 턴 수와 토큰 또는 시간 예산을 정하세요. 예를 들어 OpenAI Agents SDK는 실행이 max_turns 한도를 넘으면 MaxTurnsExceeded를 발생시킵니다.

Markdown으로 읽기ChatGPT에 질문하기Claude에 질문하기Perplexity에 질문하기