BroadRouter
Bắt đầu

Chi phí thật của multi-agent: trả theo token hay phiên giá cố định

Đội ngũ BroadNet Inference · 4 phút đọc · Đăng ngày · Cập nhật

Chi phí multi-agent xấp xỉ tổng token của mọi agent, cộng phần chuyển giao và context lặp lại. Anthropic đo được hệ thống research multi-agent của họ dùng khoảng 15 lần token so với chat, còn một agent là 4 lần. Khi trả theo token, hóa đơn tăng theo mỗi agent; trên gói giá cố định, nó tăng theo số agent chạy cùng lúc.

Chia một tác vụ cho orchestrator và các sub-agent có thể xong nhanh hơn và khám phá rộng hơn. Nó cũng nhân hóa đơn lên, theo những cách không lộ ra từ bảng giá. Bài này tính chi phí của một thiết lập multi-agent khi trả theo token và trên phiên giá cố định, dùng giá công bố của BroadNet cho DeepSeek V4.1 Flash. Cách đếm và mua phiên được trình bày trong chạy coding agent song song với giá cố định; bài này nói về tiền.

Hệ thống multi-agent dùng nhiều token hơn bao nhiêu?

Số liệu công khai rõ ràng nhất đến từ bài viết của Anthropic về hệ thống research multi-agent của họ. Họ cho biết “agents typically use about 4× more tokens than chat interactions, and multi-agent systems use about 15× more tokens than chats.” (bản dịch: agent thường dùng nhiều token hơn khoảng 4 lần so với tương tác chat, và hệ thống multi-agent dùng nhiều hơn khoảng 15 lần so với chat.) Họ cũng thấy riêng mức dùng token đã giải thích 80% độ biến thiên trong các bài kiểm tra hiệu năng. Nhiều agent hơn tiêu nhiều token hơn, và thường nhờ thế mà cho kết quả tốt hơn.

Cùng bài viết đó thận trọng về độ phù hợp: “For economic viability, multi-agent systems require tasks where the value of the task is high enough” (bản dịch: để khả thi về kinh tế, hệ thống multi-agent cần những tác vụ có giá trị đủ cao) để trả cho phần hiệu năng tăng thêm. Bài cũng lưu ý phần lớn tác vụ lập trình có ít phần thực sự song song hơn so với research.

Vì vậy một giả định hợp lý khi lập kế hoạch là phiên bản multi-agent của một tác vụ tốn gấp 3 đến 4 lần phiên bản agent đơn. Thiết kế của bạn có thể rẻ hơn, hoặc tệ hơn nhiều. Hãy đo.

Token thêm ra đến từ đâu?

Hệ số nhân Vì sao xảy ra
Chi phí riêng của mỗi agent Mỗi sub-agent gửi system prompt và định nghĩa tool của riêng nó ở mọi lần gọi
Đọc trùng lặp Sub-agent đọc lại cùng các file vì không chia sẻ context
Chuyển kết quả Orchestrator đọc output của mọi sub-agent như đầu vào mới
Cache tách biệt Mỗi agent một prefix khác nhau nghĩa là ít đầu vào từ cache hơn
Retry Một tác vụ con thất bại gửi lại toàn bộ context của nó

Bài ngân sách token của agent chỉ cách đo từng nhóm theo mỗi lần gọi.

Hai cách tính phí tăng theo quy mô thế nào?

Khác biệt cốt lõi là mỗi cách đếm cái gì:

  • Trả theo token (trả theo mức dùng) đếm mọi token mà mọi agent gửi và nhận. Thêm một agent là thêm token của nó.
  • Phiên giá cố định đếm số request đang chạy cùng một lúc. Trên các gói không giới hạn của BroadNet, một phiên chạy một request tại một thời điểm, không đếm token, giá $60 mỗi tháng với Full Moon. Bốn agent gọi model cùng lúc cần bốn phiên. Bốn agent gọi lần lượt chỉ cần một.

Điều đó có nghĩa là gói không làm multi-agent trở nên miễn phí. Một phiên chỉ tạo ra được chừng ấy: ở tốc độ khoảng 100 token mỗi giây, khoảng khoảng 259 triệu token đầu ra mỗi tháng nếu nó sinh liên tục không nghỉ. Nhiều token hơn trong cùng số giờ nghĩa là cần nhiều phiên hơn.

Phép tính phiên, ví dụ cụ thể

Chúng tôi dùng coding agent toàn thời gian từ bài giá cố định hay trả theo token: 1.000M token đầu vào mỗi tháng, 80% được cache, 50M đầu ra. Trên DeepSeek V4.1 Flash, con số đó tốn $65.40 mỗi tháng nếu trả theo token.

Thiết lập Token hằng tháng Hóa đơn theo token Phiên Hóa đơn gói
Một agent, cả ngày 1× $65.40 1 $60
Orchestrator + 3 sub-agent, tất cả bận cả ngày 4× 4 × $65.40 4 4 × $60
Cùng nhóm đó, sub-agent chạy theo đợt, chồng lấn đỉnh 2 khoảng 2× 2 × $65.40 2 2 × $60
Bốn agent nhẹ, mỗi agent ở khối lượng dự án phụ 4 × mức nhẹ 4 × $14.23 4 4 × $60

Các dòng trên cho thấy:

  1. Agent bận rộn có lợi với gói, theo một khoản chênh lệch cho mỗi phiên. Mỗi phiên chạy hết công suất tiết kiệm $5.40 mỗi tháng ở khối lượng này. Bốn phiên tiết kiệm gấp bốn lần.
  2. Sub-agent chạy theo đợt có lợi với ít phiên hơn. Hãy mua theo mức chồng lấn bạn thấy phần lớn thời gian. Các trang của BroadNet không nói request vượt mức đó sẽ chờ hay bị từ chối, nên hãy cho mọi agent cơ chế retry với backoff khi gặp lỗi 429 do concurrency.
  3. Agent nhẹ có lợi khi trả theo token. Bốn phiên cho bốn agent phần lớn thời gian nằm không tốn hơn nhiều so với token của chúng. Ở khối lượng dự án phụ, mỗi agent tốn $14.23 mỗi tháng nếu trả theo token.

Quy tắc kinh nghiệm: một phiên đáng tiền khi các agent dùng nó đẩy qua khoảng 917 triệu token đầu vào và 46 triệu token đầu ra mỗi tháng.

Ước tính hóa đơn của bạn thế nào?

  1. Chạy quy trình multi-agent trong một tuần trên key trả theo mức dùng, có ghi log usage theo từng agent.
  2. Cộng token theo từng agent: đầu vào, đầu vào từ cache và đầu ra. Nhân khoảng 4,3 để ra một tháng.
  3. Từ timestamp của request, tìm số request chồng lấn trong phần lớn thời gian. Đó là số phiên của bạn.
  4. So tổng theo token với số phiên × $60 trong công cụ so sánh giá cố định và trả theo token.
  5. Trước khi mua một tháng, chạy cùng quy trình trên các giờ Meteor giá $1, mỗi phiên một giờ.

Key trả theo mức dùng cho phép 4 request đang chạy và 30 request mỗi phút, nên một lần tỏa ra lớn cũng sẽ chạm rate limit khi trả theo token. Dù cách nào, hãy lên kế hoạch backoff; xem agent chạy lâu.

Giảm chi phí multi-agent thế nào?

  • Bắt đầu với một agent. Chỉ thêm sub-agent ở nơi công việc tách ra gọn gàng.
  • Cho sub-agent ít tool hơn và prompt ngắn hơn orchestrator.
  • Trả về bản tóm tắt, không phải toàn bộ transcript, từ sub-agent về orchestrator.
  • Dùng model rẻ hơn cho sub-agent ở nơi chất lượng cho phép, và giữ model mạnh hơn cho việc lập kế hoạch.
  • Chạy các bước chuyển giao nối tiếp khi tốc độ không quan trọng. Các agent chạy nối tiếp dùng chung một phiên.

BroadNet Inference phù hợp ở đâu

Các gói không giới hạn của BroadNet hợp với hệ thống multi-agent mà các agent luôn bận: mỗi phiên có giá $60 mỗi tháng, không đếm token trên DeepSeek V4.1 Flash, và một key có thể giữ nhiều phiên. Key trả theo token hợp với kiểu tỏa ra theo đợt và với các model khác như GLM 5.3. Gói không hợp với các agent nằm không phần lớn thời gian trong ngày, và BroadNet không ghi tool calling cho DeepSeek V4.1 Flash, nên hãy thử việc dùng tool của sub-agent trước. Hướng dẫn OpenAI Agents SDK chỉ cách nối, và các gói có tại inference.broadnet.ai/plans.

Câu hỏi thường gặp

Hệ thống multi-agent tốn hơn một agent đơn bao nhiêu?

Tùy thiết kế, nhưng số liệu Anthropic công bố cho thấy quy mô. Agent của họ dùng khoảng 4 lần token so với chat, còn hệ thống research multi-agent khoảng 15 lần, tức là gấp khoảng 3 đến 4 lần một agent đơn cho cùng một câu hỏi.

Gói giá cố định có rẻ hơn cho hệ thống multi-agent không?

Có, khi mỗi phiên luôn bận. Một phiên Full Moon của BroadNet đáng tiền ở khoảng 917 triệu token đầu vào và 46 triệu token đầu ra mỗi tháng trên DeepSeek V4.1 Flash. Những phiên nằm không phần lớn thời gian trong ngày sẽ tốn hơn trả theo token.

Một orchestrator có sub-agent cần bao nhiêu phiên?

Một phiên cho mỗi request chạy cùng lúc. Một orchestrator chờ trong lúc ba sub-agent làm việc song song cần ba hoặc bốn phiên, tùy việc nó có gọi model trong khoảng thời gian đó hay không. Các bước chuyển giao chạy nối tiếp chỉ cần một.

Vì sao sub-agent dùng nhiều token đến vậy?

Mỗi sub-agent có context riêng. Nó nạp system prompt và định nghĩa tool của riêng nó, đọc lại những file agent khác đã đọc, và trả về kết quả mà orchestrator lại đọc thêm lần nữa.

Hệ thống multi-agent có đáng dùng cho lập trình không?

Đôi khi. Bài viết của Anthropic lưu ý rằng phần lớn tác vụ lập trình có ít phần thực sự song song hơn so với research, và các tác vụ cần chia sẻ context thì không hợp. Hãy thử một agent đơn trước và chỉ thêm sub-agent ở nơi công việc thật sự tách được.

Đọc dạng MarkdownHỏi ChatGPTHỏi ClaudeHỏi Perplexity