BroadRouter
Mulai

Sistem multi-agen (multi-agent system)

Diperbarui

Sistem multi-agen adalah aplikasi LLM di mana beberapa agen, masing-masing dengan prompt, tool, dan konteksnya sendiri, mengerjakan bagian-bagian dari satu tugas. Desain yang umum adalah orchestrator-worker: agen utama membuat rencana, menjalankan agen worker secara paralel, lalu menggabungkan hasilnya.

Disebut juga: sistem multi-agen, multi agen AI, orkestrasi multi-agen, multi-agent, multi-agent system, multi-agent orchestration, orchestrator-worker

Satu agen mengerjakan tugas langkah demi langkah. Sistem multi-agen memecah tugas dan menjalankan bagian-bagiannya sekaligus.

Cara kerjanya

Anthropic menggambarkan fitur Research-nya sebagai “orchestrator-worker pattern, where a lead agent coordinates the process while delegating to specialized subagents.” (terjemahan: pola orchestrator-worker, di mana agen utama mengoordinasikan proses sambil mendelegasikan ke subagen yang terspesialisasi.) Agen utama membaca pertanyaan, membuat rencana, menjalankan beberapa subagen yang mencari secara paralel, lalu menulis jawaban akhir dari ringkasan mereka.

Ada desain lain. Makalah AutoGen (Wu dkk., 2023) menggambarkan framework di mana agen yang “customizable, conversable” (terjemahan: bisa dikustomisasi dan bisa bercakap) berbicara satu sama lain, dengan manusia, dan dengan tool, sementara developer memprogram pola percakapannya dalam bahasa alami atau kode.

Contoh jalannya pola orchestrator-worker:

Lead:     plan -> start 3 workers
Worker 1: search docs for topic A  -> 1,500-token summary
Worker 2: search docs for topic B  -> 1,500-token summary
Worker 3: search docs for topic C  -> 1,500-token summary
Lead:     read 3 summaries -> final answer

Setiap worker menghabiskan tokennya sendiri untuk mencari dan membaca. Agen utama hanya melihat ringkasannya.

Mengapa penting

  • Kualitas pada tugas luas. Anthropic melaporkan bahwa susunan multi-agen dengan Claude Opus 4 sebagai agen utama dan worker Sonnet 4 “outperformed single-agent Claude Opus 4 by 90.2%” (terjemahan: mengungguli Claude Opus 4 agen tunggal sebesar 90,2%) pada eval riset internalnya.
  • Biaya token. Artikel yang sama menyebut agen memakai sekitar empat kali token chat, dan sistem multi-agen “about 15× more tokens than chats.” (terjemahan: sekitar 15× lebih banyak token daripada chat.) Artikel itu juga melaporkan bahwa penggunaan token saja menjelaskan 80% variasi performa pada BrowseComp. Lebih banyak agen biasanya berarti tagihan lebih besar. Artikel biaya multi-agen membandingkan penagihan per token dan harga tetap.
  • Kecocokan. Anthropic mencatat bahwa coding kurang cocok, karena “most coding tasks involve fewer truly parallelizable tasks than research,” (terjemahan: sebagian besar tugas coding melibatkan lebih sedikit tugas yang benar-benar bisa diparalelkan dibanding riset), dan tugas dengan konteks bersama yang berat atau ketergantungan antar-agen juga kurang cocok.
  • Konkurensi. Worker paralel berarti request paralel, jadi batas konkurensi Anda membatasi percepatannya.

Di BroadNet Inference

BroadNet menyajikan modelnya; orkestrasi berjalan di framework Anda. Panduan membahas CrewAI dan OpenAI Agents SDK dengan base URL BroadNet.

Kunci bayar sesuai pemakaian mengizinkan 30 request per menit dan 4 request berjalan sekaligus. Pada paket harga tetap untuk DeepSeek V4.1 Flash tidak ada meteran token, sehingga pengali token hilang dari tagihan, tetapi setiap sesi menjalankan satu request dalam satu waktu. Beli satu sesi untuk setiap request model yang bisa berjalan pada saat yang sama: tiga worker yang berjalan bersamaan butuh tiga sesi, dan empat jika agen utama terus memanggil model selagi mereka bekerja. Menjalankan agen coding paralel di API harga tetap membahas pola-pola yang umum.

Pertanyaan umum

Apakah sistem multi-agen selalu lebih baik daripada satu agen?

Tidak. Anthropic melaporkan peningkatan besar pada tugas riset yang luas, tetapi juga bahwa sistem multi-agen memakai sekitar 15 kali token sebuah chat, dan bahwa sebagian besar tugas coding punya lebih sedikit bagian yang benar-benar paralel dibanding riset.

Framework apa yang bisa membangun sistem multi-agen?

AutoGen, OpenAI Agents SDK, CrewAI, dan tool coding seperti Claude Code semuanya mendukung salah satu bentuknya. Makalah AutoGen menggambarkan agen yang bercakap-cakap satu sama lain, dengan manusia, dan dengan tool.

Berapa banyak request paralel yang dibutuhkan sistem multi-agen?

Satu untuk setiap agen yang memanggil model pada saat yang sama. Satu agen utama ditambah empat worker yang berjalan bersamaan membutuhkan lima request yang berjalan sekaligus.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity