“ہم اسے خود چلا کر پیسے بچائیں گے” LLM لاگت کی منصوبہ بندی کے سب سے عام دعووں میں سے ہے، اور سب سے کم جانچے جانے والوں میں سے بھی۔ حساب مشکل نہیں۔ اس میں ایک متغیر ہے جس کا اندازہ لوگ غلط لگاتے ہیں (استعمال کی شرح) اور ایک لاگت ہے جسے وہ چھوڑ دیتے ہیں (لوگ)۔ یہ پوسٹ فارمولا، کرائے کی اصل قیمتیں، اور اپنے اعداد سے اسے چلانے کا طریقہ دیتی ہے۔
اس وقت GPU کرائے پر لینے کی کیا لاگت ہے؟
سرکاری قیمتوں والے صفحات سے فی گھنٹہ قیمتیں، 2026-11-14 (RunPod) اور 2026-11-16 (Lambda) کو لی گئیں۔ یہاں ایک مہینہ 730 گھنٹے کا ہے۔
| GPU | فراہم کنندہ اور ٹائر (2026-11-14 کو دیکھا گیا) | فی GPU گھنٹہ | ماہانہ، ہمیشہ آن |
|---|---|---|---|
| H100 SXM | RunPod Secure Cloud | USD 4.39 | تقریباً USD 3,205 |
| H100 SXM | RunPod Community Cloud | USD 2.69 | تقریباً USD 1,964 |
| H100 PCIe | RunPod Secure Cloud | USD 2.89 | تقریباً USD 2,110 |
| H200 | RunPod Secure Cloud | USD 5.29 | تقریباً USD 3,862 |
| A100 80GB SXM | RunPod Secure Cloud | USD 2.19 | تقریباً USD 1,599 |
| L40S | RunPod Secure Cloud | USD 1.09 | تقریباً USD 796 |
| H100 SXM | Lambda on-demand، 1 سے 8 GPUs (2026-11-16 سے نافذ؛ 2026-11-16 کو چیک کیا گیا) | USD 4.59 سے 4.89 | تقریباً USD 3,351 سے 3,570 |
Lambda کا صفحہ (2026-11-16 کو چیک کیا گیا) کہتا ہے کہ یہ قیمتیں 2026-11-16 کو 00:00 UTC سے نافذ ہیں؛ نوڈ بڑا ہونے پر فی GPU شرح گرتی ہے، 8 GPU والے نوڈ پر USD 4.59 تک۔ RunPod کی Community Cloud شرحیں “from” (سے شروع) والی قیمتیں ہیں جو ہوسٹ کے لحاظ سے بدلتی ہیں۔ Secure اور Community Cloud ہوسٹنگ کے الگ ٹائر ہیں، اس لیے اگر آپ کے ڈیٹا سنبھالنے کے قواعد ہیں تو ٹائر کی شرائط پڑھیں۔ بہت سے ماڈلز کو ایک سے زیادہ GPU چاہیے: Secure Cloud کی شرح پر 8 GPU والا H100 نوڈ ماہانہ تقریباً USD 25,638 کا پڑتا ہے۔
سیلف ہوسٹڈ لاگت فی دس لاکھ ٹوکن کیسے نکالیں؟
GPU ان تمام درخواستوں کو ملا کر جنہیں وہ بیچ کر رہا ہے، کسی مجموعی شرح پر ٹوکن بناتا ہے۔ آپ کی فی ٹوکن لاگت گھنٹے کی قیمت کو اس کے واقعی بنائے گئے ٹوکنز پر پھیلانے سے ملتی ہے:
فی 1M ٹوکن لاگت = گھنٹے کی قیمت ÷ (مجموعی فی سیکنڈ ٹوکن × 3,600 ÷ 1,000,000) ÷ استعمال کی شرح
استعمال کی شرح ان گھنٹوں کا حصہ ہے جن میں GPU اس شرح پر مفید کام کر رہا ہو۔ فرض کیے گئے اعداد کے ساتھ ایک مثال (یہ بینچ مارک نہیں: اپنا ماڈل خود ناپیں):
- GPU: Community Cloud پر ایک H100 SXM، USD 2.69 فی گھنٹہ۔
- فرض کیا گیا مجموعی آؤٹ پٹ: اچھی بیچنگ کے ساتھ فی سیکنڈ 1,500 ٹوکن۔
- پورے لوڈ پر فی گھنٹہ ٹوکن: 1,500 × 3,600 = 54 لاکھ (5.4M)۔
| استعمال کی شرح | فی گھنٹہ مؤثر ٹوکن | فی 1M آؤٹ پٹ ٹوکن لاگت |
|---|---|---|
| 100% (ہمیشہ پوری طرح مصروف) | 5.4M | USD 0.50 |
| 50% | 2.7M | USD 1.00 |
| 25% (صرف کاروباری اوقات میں مصروف) | 1.35M | USD 1.99 |
| 10% (اتار چڑھاؤ والا پروڈکٹ ٹریفک) | 0.54M | USD 4.98 |
اب اس کا موازنہ API کی فی دس لاکھ آؤٹ پٹ ٹوکن قیمت سے کریں۔ LLM API قیمتوں کا جدول دکھاتا ہے کہ درجنوں ہوسٹس انہی اوپن ویٹس کے لیے کیا لیتے ہیں؛ BroadNet Inference پر DeepSeek V4.1 Flash فی 1M آؤٹ پٹ ٹوکن $0.52 کا ہے اور Gemma 4 VL 26B $0.22 کا۔ وہ قطار تلاش کریں جہاں آپ کی سیلف ہوسٹڈ لاگت API کی قیمت سے نیچے آ جائے: وہی آپ کی بریک ایون استعمال کی شرح ہے۔ مثال ان پٹ ٹوکنز کو نظر انداز کرتی ہے، جو بھی GPU کا وقت لیتے ہیں (prefill)، اس لیے اصل سیلف ہوسٹڈ لاگت جدول سے زیادہ ہوتی ہے۔
بریک ایون کے لیے ماہانہ کتنے ٹوکن چاہییں؟
اسے الٹ کر دیکھیں۔ چلتا چھوڑا گیا GPU ہر حال میں اپنی ماہانہ قیمت لیتا ہے۔ API کی لاگت ٹوکن × قیمت ہے۔ بریک ایون حجم:
بریک ایون کے لیے ماہانہ ٹوکن = GPU کی ماہانہ لاگت ÷ API کی فی 1M ٹوکن قیمت × 1,000,000
Community Cloud کے ایک H100 (تقریباً USD 1,964 ماہانہ) کا موازنہ $0.52 فی 1M آؤٹ پٹ قیمت سے کرنا ہو تو 1,964 کو اس قیمت سے تقسیم کریں: اس سے وہ ملین آؤٹ پٹ ٹوکن ماہانہ ملتے ہیں جن کی جگہ لینے کے بعد ہی GPU اپنی قیمت پوری کرتا ہے۔ اگر آپ کا ورک لوڈ ان پٹ سے بھاری ہے، جیسا کہ ایجنٹس کا عموماً ہوتا ہے، تو یہی حساب ان پٹ اور آؤٹ پٹ کی ملی جلی قیمت سے کریں؛ مقررہ قیمت بمقابلہ فی ٹوکن والی پوسٹ دکھاتی ہے کہ دونوں کو کیسے ملائیں۔
اور اس GPU کو واقعی ماڈل سرو کرنا ہوگا۔ اگر ماڈل کو چار GPUs چاہییں تو تقسیم کرنے سے پہلے ماہانہ لاگت کو چار سے ضرب دیں۔
لوگ کون سی لاگتیں چھوڑ دیتے ہیں؟
| لاگت | اس میں کیا آتا ہے | اسے کیسے گنیں |
|---|---|---|
| انجینئرنگ سیٹ اپ | سرونگ انجن، quantization کا انتخاب، آٹو اسکیلنگ، لوڈ ٹیسٹ | ایک بار کے گھنٹے × آپ کی شرح |
| جاری آپریشنز | اپ گریڈز، ڈرائیور اور انجن اپ ڈیٹس، ماڈل ریفریش | ماہانہ گھنٹے × آپ کی شرح |
| آن کال | نوڈ بند ہونے پر کسی کو جاگنا پڑتا ہے | آپ کی آن کال پالیسی |
| ریڈنڈنسی | دوسرا نوڈ، تاکہ ایک خرابی بندش نہ بنے | GPU والی لائن دگنی |
| خالی اضافی گنجائش | عروج کے لیے صلاحیت جسے چالو رکھنا پڑتا ہے | استعمال کی شرح کم کرتی ہے |
| جانچ | تبدیلی سے پہلے نئے ماڈل ورژن کی جانچ | ہر ریلیز پر گھنٹے |
ریڈنڈنسی وہ لاگت ہے جو جواب کو سب سے زیادہ بدلتی ہے۔ ایک GPU ناکامی کا واحد نقطہ ہے۔ دو GPUs راتوں رات آپ کی استعمال کی شرح آدھی کر دیتے ہیں۔ ہر اپ گریڈ کے ساتھ آنے والے eval کام کے لیے تبدیلی سے پہلے ماڈل کی جانچ دیکھیں۔
سیلف ہوسٹنگ کب درست فیصلہ ہے؟
- مستحکم، زیادہ حجم۔ بیچ پائپ لائنز جو GPUs کو چوبیس گھنٹے پوری طرح مصروف رکھتی ہیں۔
- ڈیٹا کو آپ کے نیٹ ورک کے اندر ہی رہنا ہے۔ یہ سخت شرط ہے، لاگت کی دلیل نہیں۔ پہلے جانچیں کہ زیرو ڈیٹا ریٹینشن والا کوئی API آپ کے قواعد پر پورا اترتا ہے یا نہیں۔
- ایسا ماڈل جو کوئی API نہیں دیتا۔ آپ کا اپنا فائن ٹیون یا کوئی مخصوص اوپن ویٹ ماڈل۔
- ضمانت شدہ صلاحیت۔ آپ کو اتنا تھروپٹ چاہیے جو API کی ریٹ لمٹس نہیں دیں گی۔
باقی سب کے لیے، خاص طور پر اتار چڑھاؤ والے ٹریفک، ابتدائی پروڈکٹس اور وقفے وقفے سے چلنے والے ایجنٹس کے لیے، API سستا ہے اور اس میں آن کال روٹا نہیں چاہیے۔
کیا GPU اور فی ٹوکن بلنگ کے درمیان مقررہ قیمت والے آپشنز ہیں؟
GPU کرائے پر لینے اور فی ٹوکن ادائیگی کے درمیان ایک درمیانی راستہ ہے۔ BroadNet، Gemma 4 VL 26B کے لیے $0.50 فی گھنٹہ کی گھنٹے والی کلید بیچتا ہے (ایک اسٹریم، فی منٹ 120 درخواستیں، فی منٹ 300,000 ٹوکن)، جو پورا مہینہ چلانے پر $360.00 بنتی ہے۔ یہ DeepSeek V4.1 Flash کے لیے $60 ماہانہ پر لامحدود پلان سیشنز بھی بیچتا ہے، جن میں سے ہر ایک تقریباً 100 ٹوکن فی سیکنڈ پر ایک وقت میں ایک درخواست چلاتا ہے۔ ان سے کرائے کے GPU کی طرح پیشگی معلوم بل ملتا ہے، بغیر سیٹ اپ یا آپریشنز کے، لیکن پورے GPU کی بیچ صلاحیت کے بجائے ہر کلید یا سیشن پر مقررہ کنکرنسی کے ساتھ۔
BroadNet Inference کہاں فٹ ہوتا ہے
اس موازنے میں BroadNet Inference، API والا فریق ہے: اوپن ویٹ ماڈلز کے لیے فی ٹوکن قیمتیں، مقررہ قیمت والے پلانز اور گھنٹے والی کلیدیں، جن میں سے کچھ ماڈلز امریکی انفرنس پارٹنرز کے ہاں ہوسٹ ہیں، ایک OpenAI-compatible API کے پیچھے۔ یہ ان ٹیموں کے لیے موزوں ہے جن کے ٹریفک میں کرائے کا GPU دن کا بڑا حصہ خالی رہتا، یا جو انفرنس انفراسٹرکچر خود نہیں چلانا چاہتیں۔ اگر آپ کو کسٹم فائن ٹیون سرو کروانا ہے، آن پریمیسز ڈیپلائمنٹ چاہیے، یا ایک کلید پر سینکڑوں متوازی درخواستیں چاہییں تو یہ موزوں نہیں۔ اپنے اعداد LLM API لاگت کیلکولیٹر میں ڈالیں اور اوپر کے جدول سے موازنہ کریں۔ اگر آپ ابھی اوپن اور کلوزڈ ماڈلز کے درمیان انتخاب کر رہے ہیں تو اوپن ویٹ بمقابلہ کلوزڈ ماڈل API لاگت ہر فراہم کنندہ کے اپنے صفحے سے فی ٹوکن قیمتوں کا موازنہ کرتی ہے۔ سیلف ہوسٹنگ بمقابلہ API کیلکولیٹر آپ کے ناپے گئے تھروپٹ اور ان GPU قیمتوں سے پورا بریک ایون نکال دیتا ہے۔
