Membahagikan tugas antara orkestrator dan sub-ejen boleh menyiapkannya lebih cepat dan meneroka lebih banyak. Ia juga mendarabkan bil, dengan cara yang tidak jelas daripada senarai harga. Catatan ini mengira kos persediaan berbilang ejen setiap token dan pada sesi kadar tetap, menggunakan harga BroadNet yang diterbitkan untuk DeepSeek V4.1 Flash. Cara mengira dan membeli sesi diterangkan dalam menjalankan ejen pengekodan selari pada kadar tetap; catatan ini tentang wang.
Berapa banyak lagi token yang digunakan oleh sistem berbilang ejen?
Angka awam paling jelas datang daripada tulisan Anthropic tentang sistem penyelidikan berbilang ejennya. Ia melaporkan bahawa “agents typically use about 4× more tokens than chat interactions, and multi-agent systems use about 15× more tokens than chats.” (Terjemahan: ejen biasanya menggunakan kira-kira 4× lebih banyak token berbanding interaksi chat, dan sistem berbilang ejen menggunakan kira-kira 15× lebih banyak token berbanding chat.) Ia juga mendapati penggunaan token sahaja menerangkan 80% varians dalam ujian prestasinya. Lebih banyak ejen membelanjakan lebih banyak token, dan selalunya mendapat hasil yang lebih baik kerananya.
Tulisan yang sama berhati-hati tentang kesesuaian: “For economic viability, multi-agent systems require tasks where the value of the task is high enough” (Terjemahan: untuk berdaya maju dari segi ekonomi, sistem berbilang ejen memerlukan tugas yang nilainya cukup tinggi) untuk membayar prestasi tambahan itu. Ia juga menyatakan kebanyakan tugas pengekodan mempunyai lebih sedikit bahagian yang benar-benar selari berbanding penyelidikan.
Jadi andaian perancangan yang munasabah ialah versi berbilang ejen bagi sesuatu tugas berkos 3 hingga 4 kali ganda versi satu ejen. Reka bentuk anda boleh lebih murah atau jauh lebih teruk. Ukurlah.
Dari manakah datangnya token tambahan?
| Pengganda | Mengapa ia berlaku |
|---|---|
| Overhed setiap ejen | Setiap sub-ejen menghantar prompt sistem dan definisi alat sendiri pada setiap panggilan |
| Bacaan berganda | Sub-ejen membaca semula fail yang sama kerana mereka tidak berkongsi konteks |
| Penghantaran hasil | Orkestrator membaca output setiap sub-ejen sebagai input baharu |
| Cache berasingan | Awalan berbeza setiap ejen bermakna lebih sedikit hit input cache |
| Cubaan semula | Sub-tugas yang gagal menghantar semula seluruh konteksnya |
Catatan bajet token ejen menunjukkan cara mengukur setiap bahagian setiap panggilan.
Bagaimanakah kedua-dua model pengebilan meningkat?
Perbezaan utama ialah apa yang dikira oleh setiap satu:
- Setiap token (bayar ikut guna) mengira setiap token yang dihantar dan diterima oleh setiap ejen. Tambah ejen, tambah tokennya.
- Sesi kadar tetap mengira permintaan yang berjalan pada masa yang sama. Pada pelan tanpa had BroadNet, satu sesi menjalankan satu permintaan pada satu masa tanpa meter token, pada $60 sebulan untuk Full Moon. Empat ejen yang memanggil model serentak memerlukan empat sesi. Empat ejen yang bergilir-gilir memerlukan satu.
Ini bermakna pelan tidak menjadikan berbilang ejen percuma. Satu sesi hanya boleh menghasilkan sebanyak itu: pada kira-kira 100 token sesaat, kira-kira kira-kira 259 juta token output sebulan jika ia menjana tanpa henti. Lebih banyak token dalam jam yang sama bermakna lebih banyak sesi.
Kiraan sesi, dihuraikan
Kami menggunakan ejen pengekodan sepenuh masa daripada catatan kadar tetap vs setiap token kami: 1,000M token input sebulan, 80% di-cache, 50M output. Pada DeepSeek V4.1 Flash, itu berkos $65.40 sebulan setiap token.
| Persediaan | Token bulanan | Bil setiap token | Sesi | Bil pelan |
|---|---|---|---|---|
| Satu ejen, sepanjang hari | 1× | $65.40 | 1 | $60 |
| Orkestrator + 3 sub-ejen, semua sibuk sepanjang hari | 4× | 4 × $65.40 | 4 | 4 × $60 |
| Pasukan sama, sub-ejen secara lonjakan, pertindihan puncak 2 | kira-kira 2× | 2 × $65.40 | 2 | 2 × $60 |
| Empat ejen ringan, volum projek sampingan setiap satu | 4 × ringan | 4 × $14.23 | 4 | 4 × $60 |
Apa yang ditunjukkan oleh baris-baris ini:
- Ejen yang sibuk memihak kepada pelan, dengan margin setiap sesi. Setiap sesi yang digunakan sepenuhnya menjimatkan $5.40 sebulan pada volum ini. Empat sesi menjimatkan empat kali ganda itu.
- Sub-ejen secara lonjakan memihak kepada lebih sedikit sesi. Beli untuk pertindihan yang anda lihat pada kebanyakan masa. Halaman BroadNet tidak menyatakan sama ada permintaan yang melebihinya menunggu atau ditolak, jadi beri setiap ejen cubaan semula dengan backoff untuk 429 keserentakan.
- Ejen ringan memihak kepada setiap token. Empat sesi untuk empat ejen yang kebanyakannya terbiar berkos jauh lebih tinggi daripada token mereka. Pada volum projek sampingan, setiap ejen berkos $14.23 sebulan setiap token.
Panduan ringkasnya: satu sesi berbaloi apabila ejen yang menggunakannya menyalurkan kira-kira 917 juta token input dan 46 juta token output sebulan melaluinya.
Bagaimanakah anda menganggarkan bil anda sendiri?
- Jalankan aliran kerja berbilang ejen selama seminggu pada kunci bayar ikut guna, dengan log penggunaan setiap ejen.
- Jumlahkan token setiap ejen: input, input cache dan output. Darab kira-kira 4.3 untuk sebulan.
- Daripada cap masa permintaan, cari berapa banyak permintaan yang bertindih pada kebanyakan masa. Itulah bilangan sesi anda.
- Bandingkan jumlah setiap token dengan sesi × $60 dalam kalkulator kadar tetap vs setiap token.
- Sebelum membeli sebulan, jalankan aliran kerja yang sama pada jam Meteor $1, satu setiap sesi.
Kunci bayar ikut guna membenarkan 4 permintaan serentak dan 30 seminit, jadi sebaran yang besar juga akan mencecah had kadar pada pengebilan setiap token. Rancang backoff dalam kedua-dua keadaan; lihat ejen yang berjalan lama.
Bagaimanakah anda mengurangkan kos berbilang ejen?
- Mulakan dengan satu ejen. Tambah sub-ejen hanya di mana kerja boleh dipecahkan dengan kemas.
- Beri sub-ejen lebih sedikit alat dan prompt yang lebih pendek berbanding orkestrator.
- Pulangkan ringkasan, bukan transkrip, daripada sub-ejen kepada orkestrator.
- Gunakan model yang lebih murah untuk sub-ejen jika kualiti membenarkan, dan simpan yang lebih kuat untuk perancangan.
- Jalankan serahan secara berturutan apabila kelajuan tidak penting. Ejen berturutan berkongsi satu sesi.
Di manakah tempat BroadNet Inference
Pelan tanpa had BroadNet sesuai untuk sistem berbilang ejen yang ejennya sentiasa sibuk: setiap sesi ialah $60 sebulan tanpa meter token pada DeepSeek V4.1 Flash, dan satu kunci boleh memegang beberapa sesi. Kunci setiap token sesuai untuk sebaran secara lonjakan dan model lain seperti GLM 5.3. Pelan tidak sesuai untuk ejen yang terbiar hampir sepanjang hari, dan BroadNet tidak menyenaraikan panggilan alat untuk DeepSeek V4.1 Flash, jadi uji penggunaan alat sub-ejen anda dahulu. Panduan OpenAI Agents SDK menunjukkan cara penyambungannya, dan pelan ada di inference.broadnet.ai/plans.
