BroadRouter
Mulakan

Sistem berbilang ejen (multi-agent system)

Dikemas kini

Sistem berbilang ejen ialah aplikasi LLM di mana beberapa ejen, masing-masing dengan prompt, alatan dan konteks sendiri, mengerjakan bahagian berlainan bagi satu tugas. Reka bentuk yang lazim ialah orchestrator-worker: ejen ketua merancang, memulakan ejen pekerja secara selari dan menggabungkan hasil mereka.

Juga dikenali sebagai: sistem berbilang ejen, multi-agent system, multi-agent, multi-agent orchestration, orchestrator-worker, orkestrasi ejen

Satu ejen menyelesaikan tugas langkah demi langkah. Sistem berbilang ejen memecahkan tugas itu dan menjalankan bahagiannya serentak.

Cara ia berfungsi

Anthropic menerangkan ciri Research miliknya sebagai “orchestrator-worker pattern, where a lead agent coordinates the process while delegating to specialized subagents.” (Terjemahan BroadRouter: “corak orchestrator-worker, di mana ejen ketua menyelaraskan proses sambil menyerahkan kerja kepada subejen yang khusus.”) Ketua membaca soalan, merancang, memulakan beberapa subejen yang mencari secara selari, dan menulis jawapan akhir daripada ringkasan mereka.

Ada reka bentuk lain. Kertas AutoGen (Wu et al., 2023) menerangkan rangka kerja di mana ejen yang “customizable, conversable” (Terjemahan BroadRouter: “boleh disesuaikan dan boleh berbual”) bercakap sesama sendiri, dengan manusia dan dengan alatan, dan pembangun memprogramkan corak perbualan itu dalam bahasa semula jadi atau kod.

Contoh larian orchestrator-worker:

Lead:     plan -> start 3 workers
Worker 1: search docs for topic A  -> 1,500-token summary
Worker 2: search docs for topic B  -> 1,500-token summary
Worker 3: search docs for topic C  -> 1,500-token summary
Lead:     read 3 summaries -> final answer

Setiap pekerja membelanjakan token sendiri untuk mencari dan membaca. Ketua hanya melihat ringkasan.

Mengapa ia penting

  • Kualiti pada tugas yang luas. Anthropic melaporkan bahawa susunan berbilang ejen dengan Claude Opus 4 sebagai ketua dan Sonnet 4 sebagai pekerja “outperformed single-agent Claude Opus 4 by 90.2%” (Terjemahan BroadRouter: “mengatasi Claude Opus 4 satu ejen sebanyak 90.2%”) pada eval penyelidikan dalamannya.
  • Kos token. Artikel yang sama menyatakan ejen menggunakan kira-kira empat kali ganda token chat, dan sistem berbilang ejen “about 15× more tokens than chats.” (Terjemahan BroadRouter: “kira-kira 15× lebih banyak token berbanding chat.”) Ia juga melaporkan bahawa penggunaan token sahaja menjelaskan 80% varians prestasi pada BrowseComp. Lebih banyak ejen biasanya bermakna bil yang lebih besar. Artikel multi-agent cost membandingkan pengebilan setiap token dan harga tetap.
  • Kesesuaian. Anthropic menyatakan pengekodan kurang sesuai, kerana “most coding tasks involve fewer truly parallelizable tasks than research,” (Terjemahan BroadRouter: “kebanyakan tugas pengekodan melibatkan lebih sedikit bahagian yang benar-benar boleh diselarikan berbanding penyelidikan,”) dan tugas dengan konteks bersama yang berat atau kebergantungan antara ejen kurang sesuai.
  • Keserentakan. Pekerja selari ialah permintaan selari, jadi had keserentakan anda mengehadkan kelajuan tambahan.

Di BroadNet Inference

BroadNet menyediakan model; orkestrasi berjalan dalam rangka kerja anda. Panduan meliputi CrewAI dan OpenAI Agents SDK dengan base URL BroadNet.

Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 permintaan serentak. Pada pelan harga tetap untuk DeepSeek V4.1 Flash, tiada meter token, jadi pengganda token hilang daripada bil, tetapi setiap sesi menjalankan satu permintaan pada satu masa. Beli satu sesi bagi setiap permintaan model yang boleh berjalan pada masa yang sama: tiga pekerja yang berjalan serentak memerlukan tiga sesi, dan empat jika ketua terus memanggil model semasa mereka bekerja. Running parallel coding agents on a flat-rate API menerangkan corak yang lazim.

Soalan lazim

Adakah sistem berbilang ejen sentiasa lebih baik daripada satu ejen?

Tidak. Anthropic melaporkan peningkatan besar pada tugas penyelidikan yang luas, tetapi juga bahawa sistem berbilang ejen menggunakan kira-kira 15 kali ganda token sesuatu chat, dan kebanyakan tugas pengekodan mempunyai lebih sedikit bahagian yang benar-benar selari berbanding penyelidikan.

Rangka kerja apakah yang membina sistem berbilang ejen?

AutoGen, OpenAI Agents SDK, CrewAI dan alat pengekodan seperti Claude Code semuanya menyokong sesuatu bentuknya. Kertas AutoGen menerangkan ejen yang berbual sesama sendiri, dengan manusia dan dengan alatan.

Berapakah permintaan selari yang diperlukan oleh sistem berbilang ejen?

Satu bagi setiap ejen yang memanggil model pada masa yang sama. Seorang ketua dan empat pekerja yang berjalan serentak memerlukan lima permintaan yang sedang berjalan.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity