단일 에이전트는 작업을 한 단계씩 처리합니다. 멀티 에이전트 시스템은 작업을 나눠 여러 조각을 동시에 실행합니다.
작동 방식
Anthropic은 자사 Research 기능을 “orchestrator-worker pattern, where a lead agent coordinates the process while delegating to specialized subagents.”(번역: 리드 에이전트가 전문화된 서브에이전트에 작업을 위임하면서 전체 과정을 조율하는 오케스트레이터-워커 패턴)라고 설명합니다. 리드는 질문을 읽고 계획을 세운 뒤 병렬로 검색하는 여러 서브에이전트를 실행하고, 그 요약을 바탕으로 최종 답변을 작성합니다.
다른 설계도 있습니다. AutoGen 논문(Wu 외, 2023)은 “customizable, conversable”(번역: 사용자 정의가 가능하고 대화할 수 있는) 에이전트들이 서로, 사람과, 도구와 대화하는 프레임워크를 설명하며, 개발자는 대화 패턴을 자연어나 코드로 프로그래밍합니다.
오케스트레이터-워커 실행 예시입니다.
Lead: plan -> start 3 workers
Worker 1: search docs for topic A -> 1,500-token summary
Worker 2: search docs for topic B -> 1,500-token summary
Worker 3: search docs for topic C -> 1,500-token summary
Lead: read 3 summaries -> final answer
각 워커는 검색과 읽기에 자기 토큰을 씁니다. 리드는 요약만 봅니다.
왜 중요한가
- 폭넓은 작업에서의 품질. Anthropic은 Claude Opus 4 리드와 Sonnet 4 워커로 구성한 멀티 에이전트 설정이 내부 리서치 평가에서 “outperformed single-agent Claude Opus 4 by 90.2%“(번역: 단일 에이전트 Claude Opus 4보다 90.2% 더 좋은 성능을 냈다)고 보고합니다.
- 토큰 비용. 같은 글에 따르면 에이전트는 채팅보다 약 4배, 멀티 에이전트 시스템은 “about 15× more tokens than chats”(번역: 채팅보다 약 15배 많은 토큰)를 씁니다. 또한 BrowseComp에서 성능 차이의 80%가 토큰 사용량만으로 설명되었다고 보고합니다. 에이전트가 많을수록 대개 청구액도 커집니다. 멀티 에이전트 비용 글은 토큰당 과금과 정액 과금을 비교합니다.
- 적합성. Anthropic은 “most coding tasks involve fewer truly parallelizable tasks than research”(번역: 대부분의 코딩 작업은 리서치보다 진정으로 병렬화할 수 있는 작업이 적다)며 코딩에는 덜 맞는다고 지적합니다. 공유 컨텍스트가 많거나 에이전트 간 의존성이 큰 작업에도 잘 맞지 않습니다.
- 동시 처리. 병렬 워커는 곧 병렬 요청이므로, 동시 처리 한도가 속도 향상의 상한이 됩니다.
BroadNet Inference에서는
BroadNet은 모델을 제공하고, 오케스트레이션은 사용자의 프레임워크에서 실행됩니다. BroadNet base URL로 CrewAI와 OpenAI Agents SDK를 쓰는 가이드가 있습니다.
종량제 키는 분당 요청 30개, 동시 처리 요청 4개까지 허용합니다. DeepSeek V4.1 Flash용 정액 플랜에는 토큰 미터가 없어 청구액에서 토큰 배수 효과가 사라지지만, 세션마다 한 번에 요청 하나만 처리합니다. 같은 순간에 처리 중일 수 있는 모델 요청마다 세션을 하나씩 구매하세요. 워커 3개가 동시에 실행되면 세션 3개가 필요하고, 워커가 일하는 동안 리드도 계속 모델을 호출한다면 4개가 필요합니다. 흔한 패턴은 정액 API로 병렬 코딩 에이전트 실행하기에서 단계별로 설명합니다.