Satu ejen menyelesaikan tugas langkah demi langkah. Sistem berbilang ejen memecahkan tugas itu dan menjalankan bahagiannya serentak.
Cara ia berfungsi
Anthropic menerangkan ciri Research miliknya sebagai “orchestrator-worker pattern, where a lead agent coordinates the process while delegating to specialized subagents.” (Terjemahan BroadRouter: “corak orchestrator-worker, di mana ejen ketua menyelaraskan proses sambil menyerahkan kerja kepada subejen yang khusus.”) Ketua membaca soalan, merancang, memulakan beberapa subejen yang mencari secara selari, dan menulis jawapan akhir daripada ringkasan mereka.
Ada reka bentuk lain. Kertas AutoGen (Wu et al., 2023) menerangkan rangka kerja di mana ejen yang “customizable, conversable” (Terjemahan BroadRouter: “boleh disesuaikan dan boleh berbual”) bercakap sesama sendiri, dengan manusia dan dengan alatan, dan pembangun memprogramkan corak perbualan itu dalam bahasa semula jadi atau kod.
Contoh larian orchestrator-worker:
Lead: plan -> start 3 workers
Worker 1: search docs for topic A -> 1,500-token summary
Worker 2: search docs for topic B -> 1,500-token summary
Worker 3: search docs for topic C -> 1,500-token summary
Lead: read 3 summaries -> final answer
Setiap pekerja membelanjakan token sendiri untuk mencari dan membaca. Ketua hanya melihat ringkasan.
Mengapa ia penting
- Kualiti pada tugas yang luas. Anthropic melaporkan bahawa susunan berbilang ejen dengan Claude Opus 4 sebagai ketua dan Sonnet 4 sebagai pekerja “outperformed single-agent Claude Opus 4 by 90.2%” (Terjemahan BroadRouter: “mengatasi Claude Opus 4 satu ejen sebanyak 90.2%”) pada eval penyelidikan dalamannya.
- Kos token. Artikel yang sama menyatakan ejen menggunakan kira-kira empat kali ganda token chat, dan sistem berbilang ejen “about 15× more tokens than chats.” (Terjemahan BroadRouter: “kira-kira 15× lebih banyak token berbanding chat.”) Ia juga melaporkan bahawa penggunaan token sahaja menjelaskan 80% varians prestasi pada BrowseComp. Lebih banyak ejen biasanya bermakna bil yang lebih besar. Artikel multi-agent cost membandingkan pengebilan setiap token dan harga tetap.
- Kesesuaian. Anthropic menyatakan pengekodan kurang sesuai, kerana “most coding tasks involve fewer truly parallelizable tasks than research,” (Terjemahan BroadRouter: “kebanyakan tugas pengekodan melibatkan lebih sedikit bahagian yang benar-benar boleh diselarikan berbanding penyelidikan,”) dan tugas dengan konteks bersama yang berat atau kebergantungan antara ejen kurang sesuai.
- Keserentakan. Pekerja selari ialah permintaan selari, jadi had keserentakan anda mengehadkan kelajuan tambahan.
Di BroadNet Inference
BroadNet menyediakan model; orkestrasi berjalan dalam rangka kerja anda. Panduan meliputi CrewAI dan OpenAI Agents SDK dengan base URL BroadNet.
Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 permintaan serentak. Pada pelan harga tetap untuk DeepSeek V4.1 Flash, tiada meter token, jadi pengganda token hilang daripada bil, tetapi setiap sesi menjalankan satu permintaan pada satu masa. Beli satu sesi bagi setiap permintaan model yang boleh berjalan pada masa yang sama: tiga pekerja yang berjalan serentak memerlukan tiga sesi, dan empat jika ketua terus memanggil model semasa mereka bekerja. Running parallel coding agents on a flat-rate API menerangkan corak yang lazim.