BroadRouter

AI کوڈنگ ایجنٹ کے ایک رن کی لاگت: مراحل، کانٹیکسٹ اور کیشنگ

BroadNet Inference ٹیم · 7 منٹ کی پڑھائی · شائع شدہ

ایجنٹ ہر مرحلے پر پورا کانٹیکسٹ دوبارہ بھیجتا ہے، لہٰذا ان پٹ مراحل کی تعداد کے مربع کے ساتھ بڑھتا ہے: 60 مراحل کا ان پٹ 30 کا تقریباً 3.5 گنا ہوتا ہے۔ بل زیادہ تر کیشنگ طے کرتی ہے؛ صرف اضافے والی ہسٹری کے ساتھ 90% سے زیادہ ان پٹ کیش شدہ شرح پر بل ہو سکتا ہے۔ فی رن لاگت کو ماہانہ رنز سے ضرب دیں اور مقررہ سیشن سے موازنہ کریں۔

کوڈنگ ایجنٹ فی ٹاسک ادائیگی نہیں کرتا۔ وہ فی مرحلہ ادائیگی کرتا ہے، اور ہر مرحلہ اب تک کی پوری گفتگو دوبارہ بھیجتا ہے۔ اس سے ایک رن کی لاگت فی ٹوکن قیمت سے کہیں زیادہ اس پر منحصر ہو جاتی ہے کہ وہ کتنے مراحل لیتا ہے، اور کانٹیکسٹ کا کتنا حصہ کیش شدہ ہے۔ یہ پوسٹ انہی حصوں سے ایک رن کی لاگت اعداد کے ساتھ جوڑتی ہے، اور دکھاتی ہے کہ مقررہ سیشن فی ٹوکن ادائیگی سے کب بہتر ہے۔

ہر کال کے اندر کے ٹوکن کہاں سے آتے ہیں (ٹول اسکیما، فائلیں پڑھنا، ہسٹری)، اس کے لیے دیکھیں ایجنٹ لوپ کے ٹوکن کہاں جاتے ہیں۔ یہ پوسٹ پورے رن کے حساب کے بارے میں ہے۔

ایجنٹ رن کے دوران کانٹیکسٹ کیسے بڑھتا ہے؟

ہر کال میں ہوتا ہے:

  • ایک بنیادی کانٹیکسٹ جو ہر کال پر بھیجا جاتا ہے: سسٹم پرامپٹ، ٹول کی تعریفیں، rules فائلیں، repo map؛
  • پچھلے مراحل میں شامل ہونے والا سب کچھ: ماڈل کے جوابات اور ٹول کالز، فائلوں کا مواد اور کمانڈز کا آؤٹ پٹ؛
  • نئی ہدایت یا ٹول کا نتیجہ۔

اس بنیادی کانٹیکسٹ کو B کہیں اور ہر مرحلے میں شامل ہونے والے ٹوکنز کو g۔ مرحلہ 1، B بھیجتا ہے۔ مرحلہ 2، B + g بھیجتا ہے۔ مرحلہ n بھیجتا ہے B + (n − 1) × g۔ انہیں جمع کریں تو n مراحل کا رن بھیجتا ہے:

کل ان پٹ = n × B + g × n × (n − 1) ÷ 2

دوسرا جزو مراحل کی تعداد کے مربع کے ساتھ بڑھتا ہے۔ اسی لیے لمبے رن لوگوں کو حیران کرتے ہیں: 60 مراحل والے رن کا آخری مرحلہ پہلے سے کہیں بڑا ہوتا ہے، اور درمیان کا ہر مرحلہ تمام پچھلے مراحل کی قیمت پھر سے ادا کرتا ہے۔

ایک حل شدہ رن کیسا دکھتا ہے؟

ایک ایجنٹ لیں جس کا بنیادی کانٹیکسٹ 15,000 ٹوکن ہے (سسٹم پرامپٹ، درجن بھر ٹولز اور ایک repo map)۔ ہر مرحلہ 3,000 ٹوکن شامل کرتا ہے: ایک فائل یا ٹیسٹ لاگ اور ماڈل کا اپنا جواب۔ ہر مرحلہ 800 آؤٹ پٹ ٹوکن لکھتا ہے، ریزننگ سمیت۔

مراحل کل ان پٹ آؤٹ پٹ سب سے بڑی واحد کال
10 285,000 8,000 42,000
30 1,755,000 24,000 102,000
60 6,210,000 48,000 192,000

30 سے 60 مراحل پر جانے سے کام دگنا ہوتا ہے، لیکن ان پٹ تقریباً 3.5 گنا۔ آؤٹ پٹ صرف دگنا ہوتا ہے۔ ان رنز میں ان پٹ آؤٹ پٹ کا 36 سے 130 گنا ہے، اسی لیے ایجنٹس کے لیے ان پٹ کی قیمت، اور کیش شدہ ان پٹ کی قیمت، سب سے زیادہ اہم ہے۔

سب سے بڑی کال کو کانٹیکسٹ ونڈو میں بھی سمانا ہوتا ہے۔ 192,000 ٹوکن DeepSeek V4.1 Flash اور GLM 5.3 (دونوں 1,048,576 ٹوکن) اور Qwen3.8 27B (262,144) میں سما جاتے ہیں۔ Gemma 4 VL 26B (32,768) میں نہیں سماتے: اس مثال میں ساتویں کال ہی بہت بڑی ہو جاتی ہے۔

کیشنگ بل کو کتنا بدلتی ہے؟

فراہم کنندگان دہرائے گئے پرامپٹ پری فکس کا بل کم کیش شدہ ان پٹ شرح پر بناتے ہیں۔ جو ایجنٹ اپنی ہسٹری میں صرف اضافہ کرتا ہے، وہ ہر بار وہی پری فکس اور تھوڑا اور بھیجتا ہے، اس لیے بہترین صورت میں صرف پچھلی کال کے بعد شامل ہونے والے ٹوکن نئے ہوتے ہیں:

نیا ان پٹ (بہترین صورت) = B + (n − 1) × g

باقی سب کیش ہٹ ہے۔ رن جتنا لمبا ہوتا ہے، کیش شدہ ان پٹ کا حصہ اتنا بڑھتا ہے:

مراحل نیا ان پٹ، بہترین صورت کیش شدہ حصہ
10 42,000 85%
30 102,000 94%
60 192,000 97%

اصل ایجنٹس شاذ ہی بہترین صورت تک پہنچتے ہیں، اس لیے تین صورتوں کی قیمت نکالنا مفید ہے۔ BroadNet کی DeepSeek V4.1 Flash قیمتوں پر (فی 1M ٹوکن $0.175 ان پٹ، $0.0055 کیش شدہ، $0.52 آؤٹ پٹ، 2026-11-14 کو شائع شدہ)، یہ رہی ہر رن کی لاگت، 30 مراحل کی بہترین صورت کے نسبت:

مراحل بہترین کیش 80% کیش شدہ کوئی کیش نہیں
10 0.33× 0.39× 1.37×
30 1× 2.07× 8.11×
60 2.33× 6.84× 28.2×

دو باتیں نمایاں ہیں۔ بغیر کیش کے 60 مراحل کا رن اچھی طرح کیش ہوئے 30 مراحل کے رن کا 28 گنا پڑتا ہے۔ اور رن جتنا لمبا ہوتا ہے، کیشنگ اتنی زیادہ اہم ہوتی ہے۔ 30 مراحل کی بہترین صورت میں آؤٹ پٹ لاگت کا تقریباً ایک تہائی ہے، نیا ان پٹ آدھے سے کم اور کیش شدہ ان پٹ ایک چوتھائی سے کم، اس لیے کیشنگ کے بعد اگلی بچت آؤٹ پٹ میں ہے۔

کیشنگ کوئی سوئچ نہیں جسے آپ آن کر دیں۔ یہ اس پر منحصر ہے کہ فراہم کنندہ پری فکس کو رکھے اور آپ کا ایجنٹ اسے نہ بدلے۔ OpenAI کا گائیڈ کیش ہونے کی کم از کم لمبائی کے ساتھ پری فکس کی بالکل درست مطابقت بیان کرتا ہے۔ DeepSeek کا اپنا API ہر درخواست کے ان پٹ اور آؤٹ پٹ کے آخر میں کیش یونٹس محفوظ کرتا ہے، اس لیے پچھلی درخواست کو آگے بڑھانے والی اگلی درخواست ہٹ کر سکتی ہے۔ BroadNet کا قیمتوں کا صفحہ کہتا ہے کہ کیش شدہ ان پٹ کے لیے کوئی سیٹ اپ نہیں چاہیے، اور اس کی ڈاکس ہٹس کو usage.prompt_tokens_details.cached_tokens میں بتاتی ہیں، جب ماڈل یہ معلومات دیتا ہے۔ BroadNet کا ماڈل کیٹلاگ DeepSeek V4.1 Flash کو “models we never ran on our hardware” (ترجمہ: وہ ماڈلز جنہیں ہم نے کبھی اپنے ہارڈویئر پر نہیں چلایا) میں رکھتا ہے، اور اس کی شرائط (§7.3) اس ماڈل کا “when partner-hosted” (ترجمہ: جب پارٹنر کے ذریعے ہوسٹ ہو) احاطہ کرتی ہیں، اس لیے BroadNet پر یہ ایک پارٹنر کے ذریعے فراہم ہوتا ہے۔ DeepSeek کے اپنے اعداد فرض کرنے کے بجائے اپنی ہٹ کی شرح ناپیں۔ پری فکس ایسے لکھیں کہ کیش ہو سکے: کیشنگ کے لیے پرامپٹ کی ساخت۔

اپنے رن کا اندازہ کیسے لگائیں؟

یہ اسکرپٹ BroadNet کی عوامی pricing.json سے موجودہ قیمتیں پڑھتا ہے، اس لیے کبھی پرانا نہیں ہوتا، اور ہر کیش صورت کے لیے ٹوکنز کا مجموعہ اور فی رن لاگت چھاپتا ہے:

import json, urllib.request

PRICES = json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json"))
m = next(x for x in PRICES["models"] if x["id"] == "broadnet/deepseek-v4.1-flash")
p_in, p_cached, p_out = m["input_per_m"], m["cached_input_per_m"], m["output_per_m"]

def run_tokens(steps, base=15_000, growth=3_000, out_per_step=800, cache_rate=None):
    total_in = steps * base + growth * steps * (steps - 1) // 2
    if cache_rate is None:                      # best case: only new tokens miss
        new_in = base + (steps - 1) * growth
    else:
        new_in = round(total_in * (1 - cache_rate))
    return total_in, new_in, steps * out_per_step

def run_cost(total_in, new_in, out):
    return ((new_in * p_in) + (total_in - new_in) * p_cached + out * p_out) / 1e6

for steps in (10, 30, 60):
    for label, rate in (("best", None), ("80%", 0.8), ("none", 0.0)):
        t, n, o = run_tokens(steps, cache_rate=rate)
        print(f"{steps:>3} steps  cache {label:>4}  input {t:>9,}  new {n:>9,}  "
              f"output {o:>6,}  cost/run {run_cost(t, n, o):.4f} USD")

ڈیفالٹس کو اپنے اعداد سے بدلیں۔ ان کا اندازہ نہ لگائیں؛ انہیں ایک اصل رن سے پڑھیں:

  1. ہر کال کے لیے prompt_tokens، prompt_tokens_details.cached_tokens اور completion_tokens لاگ کریں، جیسے ایجنٹ ٹوکن بجٹ پوسٹ میں ہے۔
  2. B پہلی کال کا prompt_tokens ہے۔ g ایک کال سے اگلی کال تک prompt_tokens میں اوسط اضافہ ہے۔
  3. فی مرحلہ آؤٹ پٹ اوسط completion_tokens ہے۔ اس میں ریزننگ ٹوکن شامل ہیں، جن کا بل آؤٹ پٹ کے طور پر بنتا ہے۔
  4. آپ کی اصل کیش کی شرح = cached_tokens کا مجموعہ ÷ prompt_tokens کا مجموعہ۔

مفت ایجنٹ رن لاگت تخمینہ کار یہی حساب آپ کے براؤزر میں چلاتا ہے، تاکہ آپ بغیر کوڈ کے دوسری مراحل کی تعداد، اضافے کی شرح اور کیش کی شرح آزما سکیں۔

کس وجہ سے رن اندازے سے زیادہ مہنگا پڑتا ہے؟

  • دوبارہ کوششیں۔ ناکام ٹول کال یا 429 پر دوبارہ کوشش ایک اور پورے کانٹیکسٹ والی کال ہے۔ انہیں مراحل کے طور پر گنیں۔
  • پری فکس بدلنا۔ سسٹم پرامپٹ میں ٹائم اسٹیمپ، مختلف ترتیب میں درج ٹولز، یا رن کے درمیان ترمیم شدہ rules فائل، تبدیلی کی جگہ سے آگے کیش شدہ ان پٹ کو پھر سے نئے ان پٹ میں بدل دیتی ہے۔
  • اختصار (compaction)۔ ہسٹری کا خلاصہ بنانے سے کانٹیکسٹ چھوٹا ہوتا ہے، جس سے بعد کا ان پٹ کم ہوتا ہے، لیکن نئی ہسٹری کبھی کیش نہیں ہوئی، اس لیے اگلی کال پوری ان پٹ قیمت ادا کرتی ہے۔ اختصار کبھی کبھار اور بڑے قدموں میں کریں؛ کب کریں، یہ لمبے چلنے والے ایجنٹس کے لیے کانٹیکسٹ کا انتظام میں ہے۔
  • بڑا ٹول آؤٹ پٹ۔ مرحلہ 5 پر شامل 20,000 لائنوں کا ٹیسٹ لاگ ہر اگلے مرحلے کے ساتھ چلتا ہے۔ فارمولے میں یہ 20,000 × (باقی مراحل) ان پٹ ٹوکن شامل کرتا ہے۔
  • ریزننگ effort۔ اونچا effort فی مرحلہ آؤٹ پٹ کو کئی گنا کر سکتا ہے۔ معمول کی ترامیم کے لیے reasoning_effort کو low پر سیٹ کریں۔
  • بھٹکنا۔ جو ایجنٹ 30 مراحل کے ٹاسک کے لیے 60 مراحل لیتا ہے، وہ دگنا نہیں، مربع ادا کرتا ہے۔ مراحل کی حد لاگت کی حد ہے۔ کوڈنگ ایجنٹ کی لاگت کم کرنے کے دس طریقے میں یہ لیورز ہیں۔

مقررہ سیشن فی ٹوکن بلنگ سے کب بہتر ہے؟

فی رن لاگت کو ماہانہ عدد میں بدلیں: ماہانہ لاگت = فی رن لاگت × ماہانہ رنز۔ پھر اس کا موازنہ مقررہ پلان سے کریں۔ BroadNet پر پلانز DeepSeek V4.1 Flash کو بغیر ٹوکن میٹر کے کور کرتے ہیں: Full Moon $60 ماہانہ، Orbit $15 ہفتہ وار اور Meteor $1 فی گھنٹہ، ہر ایک فی سیشن۔

بریک ایون کے لیے ماہانہ رنز = پلان کی قیمت ÷ فی رن لاگت۔

دو چیزیں اس موازنے کو دکھنے سے کم سیدھا بناتی ہیں:

  1. آپ کی کیش کی شرح فی ٹوکن پہلو طے کرتی ہے۔ اونچی کیش کی شرح کے ساتھ Flash پر فی ٹوکن بلنگ سستی ہے، اور $60 پار کرنے کے لیے کئی رنز چاہییں۔ خراب شرح کے ساتھ آپ اسے جلد پار کر لیتے ہیں۔ مقررہ قیمت والی پوسٹ بریک ایون کو ماہانہ حجم کے طور پر دکھاتی ہے: 80% کیش شدہ پر تقریباً 917 ملین ان پٹ اور 46 ملین آؤٹ پٹ ٹوکن (بریک ایون کا حساب)۔
  2. وقت مقررہ پہلو کی بالائی حد طے کرتا ہے۔ ایک سیشن ایک وقت میں ایک درخواست چلاتا ہے۔ اگر ایک کال اوسطاً 20 سیکنڈ لیتی ہے (prefill، تقریباً 100 ٹوکن فی سیکنڈ پر تقریباً 800 آؤٹ پٹ ٹوکن، اور ٹول کا وقت)، تو 30 مراحل کا رن تقریباً 10 منٹ لیتا ہے۔ تب ایک سیشن میں گھنٹے میں زیادہ سے زیادہ تقریباً چھ رنز سماتے ہیں۔ زیادہ متوازی ایجنٹس کو زیادہ سیشن چاہییں۔

مختصر اچھال کے لیے Meteor چھوٹے پیمانے پر اسی طرح کام کرتا ہے: اگر گھنٹے میں چھ رنز سماتے ہیں، تو ہر ایک کی لاگت $1 ÷ 6 ہے۔ اس کا موازنہ اسکرپٹ سے نکلی ایک رن کی فی ٹوکن لاگت سے کریں۔ اپنے حجم آزمانے کے لیے مقررہ قیمت بمقابلہ فی ٹوکن کیلکولیٹر استعمال کریں۔

آپ کا پیٹرن عموماً سستا
دن میں چند مختصر رنز فی ٹوکن
خراب کیشنگ والے لمبے رنز مقررہ سیشن
کام کے دن کا زیادہ تر حصہ چلنے والے ایجنٹس مقررہ سیشن
سارا دن متوازی کئی ایجنٹس ہر ایجنٹ کے لیے ایک مقررہ سیشن
BroadNet پر نیٹو ٹول کالنگ چاہیے GLM 5.3 یا Qwen3.8 27B پر فی ٹوکن

BroadNet Inference کہاں فٹ ہوتا ہے

BroadNet، usage بلاک میں کیش شدہ اور ریزننگ ٹوکن بتاتا ہے، اس لیے آپ اوپر کا ہر عدد اپنے رنز سے ناپ سکتے ہیں۔ DeepSeek V4.1 Flash کی کیش شدہ ان پٹ قیمت کم ہے اور کانٹیکسٹ 1,048,576 ٹوکن، اور لامحدود پلانز اس کا ٹوکن میٹر ہٹا دیتے ہیں؛ سیشن کیسے کام کرتے ہیں۔

پہلے ایک حد چیک کر لیں۔ BroadNet کی ڈاکس ٹول کالنگ صرف GLM 5.3 اور Qwen3.8 27B کے لیے درج کرتی ہیں، اور ان میں سے کوئی بھی مقررہ پلان پر نہیں۔ ٹیکسٹ سے ترمیم کرنے والے ایجنٹس، جیسے Aider، کو نیٹو ٹول کالز کی ضرورت نہیں۔ اگر آپ کے ایجنٹ کو ہے، تو پلان خریدنے سے پہلے DeepSeek V4.1 Flash کو اپنے ایجنٹ کے ساتھ آزمائیں، یا GLM یا Qwen کا بجٹ فی ٹوکن رکھیں۔ اور اگر آپ کا ایجنٹ صرف کبھی کبھار چلتا ہے، تو فی ٹوکن ادائیگی عموماً کسی بھی مقررہ پلان سے کم پڑے گی۔

عام سوالات

AI کوڈنگ ایجنٹ کے ایک رن کی لاگت کتنی ہوتی ہے؟

پہلے ٹوکن گنیں، پھر ان کی قیمت لگائیں۔ اس پوسٹ کی مثال میں 15,000 ٹوکن کے بنیادی کانٹیکسٹ اور ہر مرحلے پر 3,000 شامل ٹوکنز والا 30 مراحل کا رن 1,755,000 ان پٹ ٹوکن اور 24,000 آؤٹ پٹ ٹوکن بھیجتا ہے۔ اس کی لاگت زیادہ تر اس پر منحصر ہے کہ ان پٹ کا کتنا حصہ کیش شدہ شرح پر بل ہوتا ہے۔

لمبا ایجنٹ رن تناسب سے زیادہ مہنگا کیوں پڑتا ہے؟

ہر مرحلہ اپنے سے پہلے کا سب کچھ دوبارہ بھیجتا ہے۔ فی مرحلہ ان پٹ سیدھی لکیر میں بڑھتا ہے، اس لیے پورے رن کا مجموعہ مراحل کی تعداد کے مربع کے ساتھ بڑھتا ہے۔ حل شدہ مثال میں رن کو 30 سے 60 مراحل کرنے پر ان پٹ تقریباً 3.5 گنا ہو جاتا ہے۔

کوڈنگ ایجنٹ سے کیش ہٹ کی کتنی شرح کی توقع رکھوں؟

یہ ایجنٹ اور فراہم کنندہ پر منحصر ہے۔ سختی سے صرف اضافے والی ہسٹری میں صرف تازہ ترین ٹوکن مس ہوتے ہیں، جس سے ہماری مثالوں میں 85% سے 97% ملا۔ ترمیم شدہ ہسٹری، سسٹم پرامپٹ میں ٹائم اسٹیمپس اور لمبے وقفے اسے کم کرتے ہیں۔ اسے prompt_tokens_details.cached_tokens سے ناپیں۔

ایجنٹ کے لیے مقررہ سیشن فی ٹوکن بلنگ سے کب سستا ہے؟

جب فی رن لاگت × ماہانہ رنز پلان کی قیمت سے زیادہ ہو۔ BroadNet پر DeepSeek V4.1 Flash کے لیے Full Moon ہر سیشن $60 ماہانہ کا ہے۔ ہلکا یا کبھی کبھار کا استعمال عموماً فی ٹوکن سستا پڑتا ہے۔

کیا ریزننگ ٹوکن اندازہ بدلتے ہیں؟

جی ہاں۔ ان کا بل آؤٹ پٹ کے طور پر بنتا ہے، اور آؤٹ پٹ فی ٹوکن ان پٹ سے مہنگا ہے۔ جو ریزننگ آپ ناپتے ہیں، اسے فی مرحلہ آؤٹ پٹ میں شامل کریں۔ BroadNet پر completion_tokens_details.reasoning_tokens اسے بتاتا ہے، جب ماڈل یہ معلومات دیتا ہے۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں