Tek bir ajan görevi adım adım yürütür. Çoklu ajan sistemi ise görevi böler ve parçaları aynı anda çalıştırır.
Nasıl çalışır
Anthropic, Research özelliğini “orchestrator-worker pattern, where a lead agent coordinates the process while delegating to specialized subagents.” (çeviri: bir lider ajanın süreci koordine edip işi uzmanlaşmış alt ajanlara devrettiği orkestratör-işçi düzeni) olarak tanımlar. Lider soruyu okur, plan yapar, paralel arama yapan birkaç alt ajan başlatır ve nihai yanıtı onların özetlerinden yazar.
Başka tasarımlar da var. AutoGen makalesi (Wu ve ark., 2023), “customizable, conversable” (çeviri: özelleştirilebilir, konuşabilen) ajanların birbirleriyle, insanlarla ve araçlarla konuştuğu ve geliştiricilerin konuşma düzenini doğal dille veya kodla programladığı bir framework anlatır.
Orkestratör-işçi düzeninde örnek bir çalışma:
Lead: plan -> start 3 workers
Worker 1: search docs for topic A -> 1,500-token summary
Worker 2: search docs for topic B -> 1,500-token summary
Worker 3: search docs for topic C -> 1,500-token summary
Lead: read 3 summaries -> final answer
Her işçi arama ve okuma için kendi token’larını harcar. Lider yalnızca özetleri görür.
Neden önemli
- Geniş görevlerde kalite. Anthropic, Claude Opus 4 lider ve Sonnet 4 işçilerden oluşan çoklu ajan kurulumunun kendi iç araştırma eval’inde “outperformed single-agent Claude Opus 4 by 90.2%” (çeviri: tek ajanlı Claude Opus 4’ü %90,2 geride bıraktığını) bildiriyor.
- Token maliyeti. Aynı yazı, ajanların sohbete göre yaklaşık dört kat, çoklu ajan sistemlerinin ise “about 15× more tokens than chats” (çeviri: sohbetlerden yaklaşık 15 kat fazla token) kullandığını söylüyor. Ayrıca BrowseComp’taki performans varyansının %80’ini tek başına token kullanımının açıkladığını bildiriyor. Daha fazla ajan genellikle daha büyük fatura demektir. Çoklu ajan maliyeti yazısı token başına ve sabit faturalandırmayı karşılaştırır.
- Uygunluk. Anthropic kodlamanın daha zayıf bir eşleşme olduğunu belirtir, çünkü “most coding tasks involve fewer truly parallelizable tasks than research,” (çeviri: çoğu kodlama görevi araştırmaya göre gerçekten paralelleştirilebilir daha az iş içerir); yoğun ortak bağlam gerektiren veya ajanlar arasında bağımlılık bulunan görevler de bu yapıya pek uymaz.
- Eşzamanlılık. Paralel işçiler paralel istekler demektir; bu yüzden eşzamanlılık sınırınız hızlanmayı sınırlar.
BroadNet Inference’ta
BroadNet modelleri sunar; orkestrasyon sizin framework’ünüzde çalışır. Rehberler CrewAI ve OpenAI Agents SDK kurulumunu BroadNet base URL’iyle anlatır.
Kullandıkça öde anahtarı dakikada 30 isteğe ve aynı anda 4 açık isteğe izin verir. DeepSeek V4.1 Flash için sabit fiyatlı planlarda token sayacı yoktur; bu da token çarpanını faturadan çıkarır, ancak her oturum aynı anda tek bir istek çalıştırır. Aynı anda açık olabilecek her model isteği için bir oturum satın alın: aynı anda çalışan üç işçi üç oturum gerektirir, onlar çalışırken lider de modeli çağırmaya devam ediyorsa dört. Sabit fiyatlı bir API’de paralel kodlama ajanları çalıştırma yazısı yaygın düzenleri adım adım anlatır.