Các framework agent đã chuyển từ một trợ lý sang nhiều trợ lý: một orchestrator lên kế hoạch, các sub-agent viết code, review và chạy test, và các batch worker xử lý backlog. Trên API trả theo token, mỗi thành phần đó đều cộng vào hóa đơn. Trên API giá cố định, câu hỏi trở thành: có bao nhiêu thứ đang gọi model cùng một lúc?
Một phiên giá cố định bao gồm những gì?
Các gói không giới hạn của BroadNet bán theo phiên. Một phiên chạy một request tại một thời điểm, với token DeepSeek V4.1 Flash không giới hạn, không có cửa sổ trượt hay trần hằng tuần. Điều đó khớp với cách một agent làm việc: gửi request, đọc câu trả lời, chạy tool, rồi gửi request tiếp theo.
| Thiết lập | Request đang chạy lúc cao điểm | Phiên |
|---|---|---|
| Một coding agent trong một terminal | 1 | 1 |
| Orchestrator + 3 sub-agent | 4 | 4 |
| 10 batch worker | 10 | 10 |
| 2 developer, mỗi người 1 agent | 2 | 2 (mỗi người một tài khoản riêng) |
Mỗi phiên Full Moon có giá $60 mỗi tháng. Một key có thể giữ nhiều phiên, hoặc bạn có thể chia các phiên của một gói cho các key của gói đó, ví dụ mỗi server hoặc mỗi dự án một key, để một key bị lộ hay bị thu hồi chỉ dừng các agent đứng sau nó. Key và tài khoản là cá nhân: bạn có thể tích hợp gói vào sản phẩm của mình, nhưng không được chia sẻ hay bán lại key. Xem toàn bộ quy định về phiên.
Agent song song cần bao nhiêu phiên?
Agent dành nhiều thời gian không gọi model: chạy test, đọc file, chờ build. Bốn sub-agent, mỗi cái gọi model 40% thời gian, hiếm khi cùng cần model một lúc. Trước khi mua bốn phiên:
- Ghi thời điểm bắt đầu và kết thúc của mọi request tới model mà framework gửi đi, theo từng agent.
- Đếm số request chồng lấn nhiều nhất trong mỗi phút.
- Mua số phiên theo mức chồng lấn bạn gặp phần lớn thời gian, không phải theo đỉnh tuyệt đối, và xếp hàng phần còn lại trong code của bạn (xem semaphore bên dưới). Các trang của BroadNet không nói request vượt giới hạn sẽ chờ hay bị từ chối, nên đừng để agent gửi đi một cách mù quáng.
Ví dụ, nếu log cho thấy phần lớn thời gian có hai request đang chạy và chỉ có bốn trong những đợt ngắn, thì hai phiên cộng một hàng đợi phía client có thể là thiết lập rẻ hơn.
Một script ngắn sẽ đếm giúp bạn. Đầu vào là danh sách thời điểm (start, end) tính bằng giây lấy từ log:
from collections import Counter
def overlap_histogram(requests):
events = sorted([(s, 1) for s, _ in requests] + [(e, -1) for _, e in requests])
in_flight, last_t, seconds_at = 0, None, Counter()
for t, delta in events:
if last_t is not None:
seconds_at[in_flight] += t - last_t
in_flight += delta
last_t = t
return dict(sorted(seconds_at.items())) # {requests in flight: seconds}
Nếu kết quả cho thấy phần lớn thời gian chỉ có một hoặc hai request đang chạy, hãy mua hai phiên. Nếu nó nằm ở mức bốn trong nhiều giờ, hãy mua bốn.
Mỗi kiểu agent cần bao nhiêu phiên?
| Kiểu | Cách gọi model | Quy tắc tính |
|---|---|---|
| Orchestrator + worker | Planner gọi trước, rồi tỏa ra nhiều worker | Số worker chạy cùng lúc, cộng một cho planner nếu nó vẫn tiếp tục làm việc |
| Pipeline (viết → review → test) | Mỗi tác vụ một giai đoạn tại một thời điểm | Một phiên cho mỗi tác vụ chạy song song |
| Backlog theo batch | Nhiều job giống nhau | Một phiên cho mỗi worker; nhiều worker hơn thì xong sớm hơn |
| Agent của nhiều developer | Độc lập | Một phiên cho mỗi developer, mỗi người một tài khoản riêng |
Làm sao để các agent song song không cản trở nhau?
Năng lực model chỉ là một nửa vấn đề. Hai agent cùng sửa một file sẽ xóa công việc của nhau. Cách xử lý thường dùng là mỗi agent một git worktree: mỗi agent có checkout và branch riêng từ cùng một repository.
git worktree add ../agent-auth -b agent/auth
git worktree add ../agent-billing -b agent/billing
Sau đó chia tác vụ theo module, để các agent hiếm khi chạm vào cùng file, và merge qua một bước review. Để chạy chúng không cần người giám sát, xem chạy coding agent qua đêm; để biết các agent thêm vào tốn bao nhiêu token, xem chi phí multi-agent.
Khi nào trả theo mức dùng tốt hơn cho agent song song?
Một key trả theo mức dùng cho phép 4 request đang chạy và 30 request mỗi phút. Điều đó hợp với kiểu tỏa ra ngắn, dồn dập: một bước review sinh ra bốn checker trong hai mươi giây rồi im lặng. Tải đều hợp với phiên, tải dồn dập hợp với tính phí theo token. Nhiều thiết lập dùng cả hai: phiên của gói cho các agent chạy lâu và key trả theo mức dùng cho các đợt cao điểm và cho model khác như GLM 5.3.
Khi key trả theo mức dùng chạm rate limit hoặc giới hạn concurrency, nó trả về 429. Hãy backoff và retry; xem mã lỗi và khi nào nên retry. Công cụ tính rate limit cho thấy một giới hạn nhất định đáp ứng được tới đâu với kiểu request của bạn.
Nối agent với gói thế nào?
Phần lớn framework agent nhận base URL tương thích OpenAI. Hãy trỏ mọi agent tới https://inference.broadnet.ai/v1 với model broadnet/deepseek-v4.1-flash và cấp cho mỗi agent một key:
export OPENAI_BASE_URL="https://inference.broadnet.ai/v1"
export OPENAI_API_KEY="$BROADNET_PLAN_KEY"
Với một coding agent trong terminal, hướng dẫn Aider có thiết lập chính xác; Cline và OpenCode có hướng dẫn riêng. Với orchestrator tự viết, hướng dẫn OpenAI Python SDK chỉ cách thiết lập client. Trong code của bạn, hãy giới hạn số request đang chạy bằng số phiên để chúng xếp hàng ở phía bạn, nơi bạn nhìn thấy được:
import asyncio
SESSIONS = 4
gate = asyncio.Semaphore(SESSIONS)
async def ask(client, messages):
async with gate:
return await client.chat.completions.create(
model="broadnet/deepseek-v4.1-flash", messages=messages, max_tokens=4000)
Chạy agent song song hay gặp lỗi gì?
- Khởi động mọi agent cùng lúc. Một loạt lời gọi đầu tiên đồng thời vượt ngay số phiên của bạn. Hãy cho các agent khởi động lệch nhau vài giây.
- Bão retry. Nếu mọi agent retry cùng một khoảnh khắc, chúng lại va nhau. Hãy thêm jitter vào backoff.
max_tokensquá nhỏ. DeepSeek V4.1 Flash suy luận trước khi trả lời; giới hạn nhỏ có thể cho câu trả lời rỗng. Xem lý do.- Nhiều người dùng chung một key. Key là cá nhân. Hãy cho mỗi developer một tài khoản riêng.
Mỗi agent dùng được bao nhiêu context?
Mỗi request có thể mang tới 1.048.576 token trên DeepSeek V4.1 Flash. Một sub-agent có thể đọc toàn bộ module nó đang làm thay vì một bản tóm tắt đã cắt gọt, và trên gói, prompt dài không tốn thêm tiền. Xem khi nào cửa sổ 1M token có ích.
Thử thiết lập với chi phí thấp thế nào?
Mua một giờ Meteor ($1) cho mỗi phiên bạn nghĩ mình cần, và chạy quy trình agent thật. Nếu các agent phải chờ nhau quá thường xuyên, hãy thêm một phiên. Nếu có phiên nằm không, hãy bỏ nó. Sau đó chuyển sang Full Moon hoặc phiên Orbit một tuần ($15 mỗi phiên).
BroadNet Inference phù hợp ở đâu
Phiên của gói hợp với các agent song song chạy đều trên một model, vì hóa đơn phụ thuộc vào số agent chạy cùng lúc chứ không phải lượng chúng đọc. Nếu agent của bạn cần nhiều model khác nhau, hoặc chỉ gọi model trong những đợt ngắn, một key trả theo mức dùng hoặc một router có thể rẻ hơn. Hãy so sánh với phép tính hòa vốn trước.
