BroadRouter
Başlayın

Çoklu ajan maliyeti: token başına mı, sabit oturum mu?

BroadNet Inference ekibi · 4 dk okuma · Yayımlandı · Güncellendi

Bir çoklu ajan kurulumu kabaca tüm ajanların token'larının toplamı, artı devir teslimler ve tekrarlanan bağlam kadar tutar. Anthropic, çoklu ajan araştırma sistemi için bir sohbetin yaklaşık 15 katı token ölçtü; tek ajan için bu oran 4 kat. Token başına ödemede fatura her ajanla büyür; sabit planda ise aynı anda çalışan ajan sayısıyla büyür.

Bir görevi bir orkestratör ile alt ajanlar arasında bölmek işi daha hızlı bitirebilir ve daha fazlasını keşfedebilir. Ama faturayı da, bir fiyat listesinden anlaşılmayan şekillerde katlar. Bu yazı, BroadNet’in DeepSeek V4.1 Flash için yayımladığı fiyatlarla, bir çoklu ajan kurulumunun token başına ve sabit oturumlarda ne kadar tuttuğunu hesaplıyor. Oturumların nasıl sayılıp satın alınacağı paralel kodlama ajanlarını sabit fiyatla çalıştırma yazısında; bu yazı ise parayla ilgili.

Bir çoklu ajan sistemi kaç kat daha fazla token kullanır?

En net kamuya açık rakamlar, Anthropic’in çoklu ajan araştırma sistemi hakkındaki yazısından geliyor. Yazı şunu bildiriyor: “agents typically use about 4× more tokens than chat interactions, and multi-agent systems use about 15× more tokens than chats.” (BroadRouter çevirisi: ajanlar sohbet etkileşimlerine göre genellikle yaklaşık 4 kat, çoklu ajan sistemleri ise sohbetlere göre yaklaşık 15 kat daha fazla token kullanır.) Ayrıca performans testlerindeki varyansın %80’ini tek başına token kullanımının açıkladığını buldu. Daha fazla ajan daha fazla token harcar ve bunun karşılığında çoğu zaman daha iyi sonuç alır.

Aynı yazı uygunluk konusunda temkinli: “For economic viability, multi-agent systems require tasks where the value of the task is high enough” (BroadRouter çevirisi: ekonomik açıdan uygulanabilir olmaları için çoklu ajan sistemleri, görevin değerinin yeterince yüksek olduğu görevler gerektirir); yani ek performansın bedelini karşılayacak kadar. Ayrıca çoğu kodlama görevinin araştırmaya göre daha az gerçekten paralel parçası olduğunu belirtiyor.

Dolayısıyla makul bir planlama varsayımı, bir görevin çoklu ajan sürümünün tek ajanlı sürümün 3 ila 4 katına mal olacağıdır. Tasarımınız bundan ucuz ya da çok daha kötü olabilir. Ölçün.

Ek token’lar nereden geliyor?

Çarpan Neden olur
Ajan başına ek yük Her alt ajan her çağrıda kendi sistem istemini ve araç tanımlarını gönderir
Yinelenen okuma Alt ajanlar bağlam paylaşmadıkları için aynı dosyaları yeniden okur
Sonuç aktarımı Orkestratör her alt ajanın çıktısını yeni girdi olarak okur
Ayrı önbellekler Ajan başına farklı önekler daha az önbellekli girdi isabeti demektir
Yeniden denemeler Başarısız bir alt görev bağlamının tamamını yeniden gönderir

Ajan token bütçesi yazısı her kovanın çağrı başına nasıl ölçüleceğini gösteriyor.

İki faturalama modeli nasıl ölçeklenir?

Temel fark, her birinin neyi saydığıdır:

  • Token başına (kullandıkça öde), her ajanın gönderdiği ve aldığı her token’ı sayar. Bir ajan eklerseniz onun token’larını da eklersiniz.
  • Sabit oturumlar, aynı anda uçuştaki istekleri sayar. BroadNet’in sınırsız planlarında bir oturum, Full Moon’da ayda $60 karşılığında, token sayacı olmadan aynı anda tek istek işler. Modeli aynı anda çağıran dört ajan dört oturum ister. Sırayla çalışan dört ajan bir oturum ister.

Bu, planın çoklu ajanı bedava yapmadığı anlamına gelir. Bir oturum ancak belirli bir miktar üretebilir: saniyede yaklaşık 100 token hızında, kesintisiz üretse ayda yaklaşık yaklaşık 259 milyon çıktı token’ı. Aynı saatlerde daha fazla token, daha fazla oturum demektir.

Oturum hesabı, örnekle

Sabit fiyat ve token başına ödeme yazımızdaki tam zamanlı kodlama ajanını kullanıyoruz: ayda 1.000M girdi token’ı, %80’i önbellekli, 50M çıktı. DeepSeek V4.1 Flash’ta bu, token başına ayda $65.40 tutuyor.

Kurulum Aylık token Token başına fatura Oturum Plan faturası
Tek ajan, gün boyu 1× $65.40 1 $60
Orkestratör + 3 alt ajan, hepsi gün boyu meşgul 4× 4 × $65.40 4 4 × $60
Aynı ekip, alt ajanlar patlamalar halinde, zirve çakışma 2 yaklaşık 2× 2 × $65.40 2 2 × $60
Dört hafif ajan, her biri yan proje hacminde 4 × hafif 4 × $14.23 4 4 × $60

Satırların gösterdiği:

  1. Meşgul ajanlar, oturum başına belirli bir farkla planı kayırır. Bu hacimde tam yüklü her oturum ayda $5.40 kazandırır. Dört oturum bunun dört katını kazandırır.
  2. Patlamalı alt ajanlar daha az oturumu kayırır. Çoğu zaman gördüğünüz çakışma için satın alın. BroadNet’in sayfaları bunun üzerindeki bir isteğin bekleyip beklemediğini ya da reddedilip reddedilmediğini söylemiyor; bu yüzden her ajana eşzamanlılık kaynaklı bir 429 için geri çekilmeli bir yeniden deneme verin.
  3. Hafif ajanlar token başına ödemeyi kayırır. Çoğunlukla boşta duran dört ajan için dört oturum, token’larından çok daha pahalıya gelir. Yan proje hacminde her ajan token başına ayda $14.23 tutar.

Pratik kural: bir oturum, onu kullanan ajanlar ayda içinden yaklaşık 917 milyon girdi ve 46 milyon çıktı token’ı geçirdiğinde buna değer.

Kendi faturanızı nasıl tahmin edersiniz?

  1. Çoklu ajan iş akışını, ajan başına kullanım loglamasıyla bir hafta boyunca kullandıkça öde anahtarıyla çalıştırın.
  2. Ajan başına token’ları toplayın: girdi, önbellekli girdi ve çıktı. Bir ay için yaklaşık 4,3 ile çarpın.
  3. İstek zaman damgalarından çoğu zaman kaç isteğin çakıştığını bulun. Oturum sayınız budur.
  4. Token başına toplamı, sabit fiyat ve token başına ödeme hesaplayıcısında oturum × $60 ile karşılaştırın.
  5. Bir ay satın almadan önce aynı iş akışını oturum başına bir tane olmak üzere $1 karşılığındaki Meteor saatleriyle çalıştırın.

Bir kullandıkça öde anahtarı uçuşta 4 isteğe ve dakikada 30 isteğe izin verir; bu yüzden büyük bir dağıtım token başına faturalamada da hız sınırlarına takılır. Her iki durumda da geri çekilmeyi planlayın; bkz. uzun süre çalışan ajanlar.

Çoklu ajan maliyeti nasıl düşürülür?

  • Tek bir ajanla başlayın. Alt ajanları yalnızca işin temiz bölündüğü yerlere ekleyin.
  • Alt ajanlara orkestratörden daha az araç ve daha kısa istemler verin.
  • Alt ajanlardan orkestratöre dökümleri değil, özetleri döndürün.
  • Kalitenin izin verdiği yerlerde alt ajanlar için daha ucuz bir model kullanın, güçlü olanı planlamaya ayırın.
  • Hız önemli değilse devir teslimleri sırayla çalıştırın. Sıralı ajanlar tek bir oturumu paylaşır.

BroadNet Inference nereye oturuyor?

BroadNet’in sınırsız planları, ajanları meşgul kalan çoklu ajan sistemlerine uyar: DeepSeek V4.1 Flash’ta her oturum token sayacı olmadan ayda $60 ve tek bir anahtar birkaç oturum taşıyabilir. Token başına ücretli anahtarlar patlamalı dağıtımlara ve GLM 5.3 gibi diğer modellere uyar. Plan, günün çoğunda boşta duran ajanlara uymaz; ayrıca BroadNet DeepSeek V4.1 Flash için araç çağırma listelemiyor, bu yüzden önce alt ajanlarınızın araç kullanımını test edin. Bağlantı kurulumunu OpenAI Agents SDK rehberi gösteriyor; planlar inference.broadnet.ai/plans adresinde.

Sık sorulan sorular

Çoklu ajan sistemleri tek bir ajandan ne kadar pahalıdır?

Tasarıma bağlı, ama Anthropic'in yayımladığı rakamlar bir ölçek veriyor. Ajanları sohbete göre yaklaşık 4 kat, çoklu ajan araştırma sistemi ise yaklaşık 15 kat token kullandı; yani aynı soru için tek bir ajanın kabaca 3 ila 4 katı.

Çoklu ajan sistemleri için sabit fiyatlı plan daha mı ucuz?

Her oturum meşgul kaldığında evet. Bir BroadNet Full Moon oturumu, DeepSeek V4.1 Flash'ta ayda yaklaşık 917 milyon girdi ve 46 milyon çıktı token'ında kendini amorti eder. Günün çoğunda boşta duran oturumlar token başına ödemekten daha pahalıya gelir.

Alt ajanları olan bir orkestratör kaç plan oturumu gerektirir?

Aynı anda çalışan istek başına bir tane. Üç alt ajan paralel çalışırken bekleyen bir orkestratör, o sırada modeli çağırıp çağırmamasına bağlı olarak üç veya dört oturum ister. Art arda çalışan devir teslimler için bir oturum yeter.

Alt ajanlar neden bu kadar çok token kullanıyor?

Her alt ajanın kendi bağlamı vardır. Kendi sistem istemini ve araç tanımlarını yükler, diğer ajanların zaten okuduğu dosyaları yeniden okur ve orkestratörün sonra yeniden okuduğu sonuçlar döndürür.

Çoklu ajan sistemleri kodlama için buna değer mi?

Bazen. Anthropic'in yazısı, çoğu kodlama görevinin araştırmaya göre daha az gerçekten paralel parça içerdiğini ve ortak bağlam gerektiren görevlerin bu yapıya pek uymadığını belirtiyor. Önce tek bir ajanı deneyin, alt ajanları işin gerçekten bölündüğü yerlere ekleyin.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor