BroadRouter
Başlayın

Çoklu ajan sistemi (multi-agent system)

Güncellendi

Çoklu ajan sistemi, her birinin kendi istemi, araçları ve bağlamı olan birkaç ajanın tek bir görevin parçaları üzerinde çalıştığı bir LLM uygulamasıdır. Yaygın bir tasarım orkestratör-işçi düzenidir: bir lider ajan plan yapar, işçi ajanları paralel başlatır ve sonuçlarını birleştirir.

Diğer adları: çoklu ajan, çok ajanlı sistem, çoklu ajan orkestrasyonu, orkestratör-işçi, multi-agent, multi-agent system, multi-agent orchestration, orchestrator-worker

Tek bir ajan görevi adım adım yürütür. Çoklu ajan sistemi ise görevi böler ve parçaları aynı anda çalıştırır.

Nasıl çalışır

Anthropic, Research özelliğini “orchestrator-worker pattern, where a lead agent coordinates the process while delegating to specialized subagents.” (çeviri: bir lider ajanın süreci koordine edip işi uzmanlaşmış alt ajanlara devrettiği orkestratör-işçi düzeni) olarak tanımlar. Lider soruyu okur, plan yapar, paralel arama yapan birkaç alt ajan başlatır ve nihai yanıtı onların özetlerinden yazar.

Başka tasarımlar da var. AutoGen makalesi (Wu ve ark., 2023), “customizable, conversable” (çeviri: özelleştirilebilir, konuşabilen) ajanların birbirleriyle, insanlarla ve araçlarla konuştuğu ve geliştiricilerin konuşma düzenini doğal dille veya kodla programladığı bir framework anlatır.

Orkestratör-işçi düzeninde örnek bir çalışma:

Lead:     plan -> start 3 workers
Worker 1: search docs for topic A  -> 1,500-token summary
Worker 2: search docs for topic B  -> 1,500-token summary
Worker 3: search docs for topic C  -> 1,500-token summary
Lead:     read 3 summaries -> final answer

Her işçi arama ve okuma için kendi token’larını harcar. Lider yalnızca özetleri görür.

Neden önemli

  • Geniş görevlerde kalite. Anthropic, Claude Opus 4 lider ve Sonnet 4 işçilerden oluşan çoklu ajan kurulumunun kendi iç araştırma eval’inde “outperformed single-agent Claude Opus 4 by 90.2%” (çeviri: tek ajanlı Claude Opus 4’ü %90,2 geride bıraktığını) bildiriyor.
  • Token maliyeti. Aynı yazı, ajanların sohbete göre yaklaşık dört kat, çoklu ajan sistemlerinin ise “about 15× more tokens than chats” (çeviri: sohbetlerden yaklaşık 15 kat fazla token) kullandığını söylüyor. Ayrıca BrowseComp’taki performans varyansının %80’ini tek başına token kullanımının açıkladığını bildiriyor. Daha fazla ajan genellikle daha büyük fatura demektir. Çoklu ajan maliyeti yazısı token başına ve sabit faturalandırmayı karşılaştırır.
  • Uygunluk. Anthropic kodlamanın daha zayıf bir eşleşme olduğunu belirtir, çünkü “most coding tasks involve fewer truly parallelizable tasks than research,” (çeviri: çoğu kodlama görevi araştırmaya göre gerçekten paralelleştirilebilir daha az iş içerir); yoğun ortak bağlam gerektiren veya ajanlar arasında bağımlılık bulunan görevler de bu yapıya pek uymaz.
  • Eşzamanlılık. Paralel işçiler paralel istekler demektir; bu yüzden eşzamanlılık sınırınız hızlanmayı sınırlar.

BroadNet Inference’ta

BroadNet modelleri sunar; orkestrasyon sizin framework’ünüzde çalışır. Rehberler CrewAI ve OpenAI Agents SDK kurulumunu BroadNet base URL’iyle anlatır.

Kullandıkça öde anahtarı dakikada 30 isteğe ve aynı anda 4 açık isteğe izin verir. DeepSeek V4.1 Flash için sabit fiyatlı planlarda token sayacı yoktur; bu da token çarpanını faturadan çıkarır, ancak her oturum aynı anda tek bir istek çalıştırır. Aynı anda açık olabilecek her model isteği için bir oturum satın alın: aynı anda çalışan üç işçi üç oturum gerektirir, onlar çalışırken lider de modeli çağırmaya devam ediyorsa dört. Sabit fiyatlı bir API’de paralel kodlama ajanları çalıştırma yazısı yaygın düzenleri adım adım anlatır.

Sık sorulan sorular

Çoklu ajan sistemi her zaman tek ajandan daha mı iyidir?

Hayır. Anthropic geniş kapsamlı araştırma görevlerinde büyük kazanımlar bildiriyor; ancak çoklu ajan sistemlerinin bir sohbetin yaklaşık 15 katı token kullandığını ve çoğu kodlama görevinde araştırmaya göre gerçekten paralel olan parçaların daha az olduğunu da söylüyor.

Çoklu ajan sistemleri hangi framework'lerle kurulur?

AutoGen, OpenAI Agents SDK, CrewAI ve Claude Code gibi kodlama araçları bunun bir biçimini destekler. AutoGen makalesi birbirleriyle, insanlarla ve araçlarla konuşan ajanları anlatır.

Çoklu ajan sistemi kaç paralel isteğe ihtiyaç duyar?

Modeli aynı anda çağıran her ajan için bir tane. Birlikte çalışan bir lider ve dört işçi, aynı anda beş açık istek gerektirir.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor