Một agent xử lý tác vụ từng bước một. Hệ thống đa agent chia nhỏ tác vụ và chạy các phần cùng lúc.
Cách hoạt động
Anthropic mô tả tính năng Research của mình là một “orchestrator-worker pattern, where a lead agent coordinates the process while delegating to specialized subagents.” (Bản dịch: mẫu orchestrator-worker, trong đó một agent chính điều phối quy trình đồng thời giao việc cho các subagent chuyên biệt.) Agent chính đọc câu hỏi, lập kế hoạch, khởi chạy nhiều subagent tìm kiếm song song, rồi viết câu trả lời cuối cùng từ các bản tóm tắt của chúng.
Còn có những thiết kế khác. Bài báo AutoGen (Wu và cộng sự, 2023) mô tả một framework trong đó các agent “customizable, conversable” (Bản dịch: tùy biến được, trò chuyện được) nói chuyện với nhau, với con người và với tool, còn lập trình viên lập trình mẫu hội thoại bằng ngôn ngữ tự nhiên hoặc code.
Một ví dụ cụ thể về một lần chạy orchestrator-worker:
Lead: plan -> start 3 workers
Worker 1: search docs for topic A -> 1,500-token summary
Worker 2: search docs for topic B -> 1,500-token summary
Worker 3: search docs for topic C -> 1,500-token summary
Lead: read 3 summaries -> final answer
Mỗi worker tiêu token riêng cho việc tìm kiếm và đọc. Agent chính chỉ thấy các bản tóm tắt.
Vì sao quan trọng
- Chất lượng với tác vụ rộng. Anthropic báo cáo rằng một cấu hình đa agent với agent chính Claude Opus 4 và các worker Sonnet 4 đã “outperformed single-agent Claude Opus 4 by 90.2%” (Bản dịch: vượt Claude Opus 4 chạy đơn agent 90,2%) trong bài đánh giá nghiên cứu nội bộ.
- Chi phí token. Cùng bài viết đó nói agent dùng khoảng bốn lần số token so với chat, còn hệ thống đa agent dùng “about 15× more tokens than chats.” (Bản dịch: khoảng gấp 15 lần token so với chat.) Bài viết cũng báo cáo rằng riêng lượng token sử dụng đã giải thích 80% mức chênh lệch hiệu năng trên BrowseComp. Nhiều agent hơn thường đồng nghĩa với hóa đơn lớn hơn. Bài viết chi phí đa agent so sánh tính phí theo token và giá cố định.
- Mức độ phù hợp. Anthropic lưu ý lập trình là trường hợp kém phù hợp hơn, vì “most coding tasks involve fewer truly parallelizable tasks than research,” (Bản dịch: phần lớn tác vụ lập trình có ít phần thực sự song song hóa được hơn so với nghiên cứu) và các tác vụ có nhiều context dùng chung hoặc phụ thuộc giữa các agent cũng không hợp.
- Concurrency. Worker song song chính là request song song, nên giới hạn concurrency của bạn chặn mức tăng tốc.
Trên BroadNet Inference
BroadNet phục vụ model; phần điều phối chạy trong framework của bạn. Có hướng dẫn cho CrewAI và OpenAI Agents SDK với base URL của BroadNet.
Một key trả theo mức dùng cho phép 30 request mỗi phút và 4 request đang xử lý cùng lúc. Trên các gói giá cố định cho DeepSeek V4.1 Flash không có đồng hồ đếm token, nên hệ số nhân token biến mất khỏi hóa đơn, nhưng mỗi phiên chỉ chạy một request tại một thời điểm. Hãy mua một phiên cho mỗi request model có thể đang xử lý cùng lúc: ba worker chạy đồng thời cần ba phiên, và bốn phiên nếu agent chính vẫn tiếp tục gọi model trong lúc chúng làm việc. Bài viết chạy coding agent song song trên API giá cố định trình bày các mẫu phổ biến.