LLM API فراہم کنندہ چننے کے لیے ہر امیدوار کو چھ شعبوں پر اسکور کریں: آپ کے اصل ورک لوڈ کی ماہانہ لاگت، ریٹ اور کنکرنسی کی حدیں، OpenAI مطابقت، ڈیٹا ریٹینشن اور ٹریننگ کی شرائط، آپ کو درکار ماڈلز، اور سپورٹ و اعتباریت۔ پھر سرفہرست دو کو ایک ہفتے کے اصل ٹریفک سے ٹیسٹ کریں۔ نیچے ہیں: 20 سوالات، ایک اسکورنگ شیٹ اور ٹیسٹ پلان۔
انتخاب کے بعد، سوئچ کرنے کا کام مائیگریشن چیک لسٹ میں ہے، اور معیار کی جانچ تفصیل سے ماڈل بدلنے سے پہلے LLM کی جانچ کیسے کریں میں۔
اصل میں کتنا خرچ ہوگا؟ (سوالات 1 سے 4)
- میرے اصل ورک لوڈ کا ماہانہ خرچ کتنا ہے؟ ان پٹ، کیش شدہ ان پٹ اور آؤٹ پٹ کی قیمت الگ الگ نکالیں؛ مفت LLM API لاگت کیلکولیٹر ہر ماڈل کے لیے یہی کرتا ہے۔ ایجنٹس وہی کانٹیکسٹ بار بار بھیجتے ہیں، اس لیے اکثر کیش شدہ ان پٹ ہی سب سے بڑا حصہ ہوتا ہے۔ ہماری قیمتوں کی وضاحت ہر مد کو سمجھاتی ہے۔
- کیا ریزننگ ٹوکن آؤٹ پٹ کے طور پر بل ہوتے ہیں؟ ریزننگ ماڈلز جواب دینے سے زیادہ ٹوکن سوچنے میں خرچ کر سکتے ہیں۔
- کیا مقررہ قیمت کا آپشن ہے؟ ہر وقت چلنے والے ایجنٹس کے لیے مقررہ قیمت والا پلان فی ٹوکن بلنگ سے سستا پڑ سکتا ہے۔ بریک ایون کا حساب دیکھیں۔
- کیا قیمتیں مشین سے پڑھی جانے والی اور تاریخ کے ساتھ ہیں؟ JSON قیمتوں کی فائل سے آپ تبدیلیاں ٹریک کر سکتے ہیں اور لاگت کے الرٹس بنا سکتے ہیں۔
LLM API کے مفت ٹیئرز اور ریٹ لمٹس کا ہمارا کھلا ڈیٹاسیٹ موازنہ کرتا ہے کہ 14 فراہم کنندگان مفت رسائی، ابتدائی ریٹ لمٹس، کارڈ کی شرط اور مفت ٹیئر کے ڈیٹا پر ٹریننگ کے بارے میں کیا شائع کرتے ہیں، ہر قدر کے ماخذ اور تاریخ کے ساتھ۔
آپ سب سے پہلے کن حدوں سے ٹکرائیں گے؟ (سوالات 5 سے 7)
- فی منٹ درخواستوں اور کنکرنسی کی حدیں کیا ہیں؟ کنکرنسی (بیک وقت جاری درخواستیں) ہی متوازی ایجنٹس اور بیچ جابز کو روکتی ہے۔ ریٹ لمٹ اور کنکرنسی دیکھیں، اور ریٹ لمٹ کیلکولیٹر سے اپنے ٹریفک کو حد کے مطابق جانچیں۔
- کیا کوئی ٹوکن کی حد، رولنگ ونڈو یا ہفتہ وار کوٹا ہے؟ “لامحدود” پلانز میں اکثر ہوتا ہے۔ پڑھیں لامحدود کا اصل مطلب کیا ہے۔
- کانٹیکسٹ ونڈو کتنی ہے، اور کیا اسے چھوٹا کیا جاتا ہے؟ فی درخواست اصل زیادہ سے زیادہ حد جانچیں، اور یہ بھی کہ فراہم کنندہ خاموشی سے لمبے پرامپٹس تو نہیں کاٹتا۔
یہ آپ کے کوڈ کے ساتھ کتنا مطابقت رکھتا ہے؟ (سوالات 8 سے 10)
- کیا یہ OpenAI-compatible ہے، اور کس حد تک؟ base URL بدلنے سے کام چل جانا چاہیے۔ پھر usage کے ساتھ اسٹریمنگ، ٹول کالز، اسٹرکچرڈ آؤٹ پٹ اور ایرر کوڈز ٹیسٹ کریں۔ مائیگریشن چیک لسٹ بتاتی ہے کہ کیا ٹوٹتا ہے۔
- کیا یہ میرے ٹولز کے ساتھ چلتا ہے؟ SDKs، ایجنٹ فریم ورکس، IDE اسسٹنٹس۔ فراہم کنندہ کی انٹیگریشن گائیڈز دیکھیں۔
- کیا ماڈل ID مستحکم ہیں؟ آپ کو ورژن والے ID چاہییں، اور کسی ماڈل کے ہٹائے جانے سے پہلے اطلاع۔
آپ کے ڈیٹا کا کیا ہوتا ہے؟ (سوالات 11 سے 13)
- کیا پرامپٹس اور آؤٹ پٹس محفوظ ہوتے ہیں، اور کب تک؟ کئی فراہم کنندگان بطور ڈیفالٹ API مواد 30 دن تک رکھتے ہیں۔ سرکاری الفاظ کا موازنہ LLM API ڈیٹا ریٹینشن کا موازنہ میں کریں۔
- کیا میرا ڈیٹا ٹریننگ میں استعمال ہوتا ہے؟ اپنے ٹیئر کا ڈیفالٹ تحریری طور پر جانچیں۔
- کیا میں DPA پر دستخط کر سکتا ہوں، سب پروسیسرز دیکھ سکتا ہوں اور کلیدوں پر پابندی لگا سکتا ہوں؟ اگر آپ EU کا ذاتی ڈیٹا پروسیس کرتے ہیں تو GDPR چیک لسٹ استعمال کریں، اور IP allow-lists مانگیں۔
کیا اس میں آپ کے درکار ماڈلز ہیں؟ (سوالات 14 سے 16)
- کیا فراہم کنندہ کے پاس میری ضرورت کے ماڈل سائز اور صلاحیتیں ہیں؟ وژن، ٹول کالنگ، ریزننگ، لمبا کانٹیکسٹ، اسپیچ۔
- ہر ماڈل میرے کاموں پر کیسا کرتا ہے؟ 30 سے 50 اصل ٹیسٹ کیسز بنائیں اور انہیں اسکور کریں۔ بینچ مارکس پہلا فلٹر ہیں؛ LLMs کا موازنہ کہاں کریں میں لیڈر بورڈز کی فہرست ہے اور یہ بھی کہ ہر ایک کیا ناپتا ہے۔ جانچ کی گائیڈ بتاتی ہے کہ سیٹ کیسے بنائیں اور جج کے تعصب سے کیسے بچیں۔
- اوپن ویٹ یا کلوزڈ؟ اوپن ویٹ ماڈلز کئی فراہم کنندگان ہوسٹ کر سکتے ہیں، جس سے لاک اِن کم ہوتا ہے۔ دیکھیں اوپن ویٹ بمقابلہ کلوزڈ ماڈلز۔
کیا یہ چلتا رہے گا، اور جواب کون دے گا؟ (سوالات 17 سے 20)
- کیا اسٹیٹس صفحہ اور واقعات کی تاریخ موجود ہے؟
- کیا پروڈکشن کے لیے تحریری SLA ہے؟
- GPUs کون چلاتا ہے؟ اپنا ہارڈویئر، کوئی کلاؤڈ، یا کسی دوسرے API سے دوبارہ بیچی گئی گنجائش۔ ہر ایک آپ کے ڈیٹا اور اعتباریت کے راستے میں ایک اور فریق شامل کرتا ہے۔
- کسی انسان تک کیسے پہنچوں؟ جواب کا وقت، چینلز، اور کیا سپورٹ آپ کی درخواست کا مواد دیکھ سکتی ہے۔
فراہم کنندگان کو آپس میں کیسے اسکور کریں؟
ہر سوال کو 0 (نہیں یا معلوم نہیں)، 1 (جزوی) یا 2 (ہاں، تحریری طور پر) نمبر دیں۔ اپنے استعمال کے مطابق گروہوں کو وزن دیں:
| گروہ | سوالات | ایجنٹ کے لیے وزن | ریگولیٹڈ ایپ کے لیے وزن |
|---|---|---|---|
| قیمت | 1 سے 4 | زیادہ | درمیانہ |
| حدیں | 5 سے 7 | زیادہ | درمیانہ |
| مطابقت | 8 سے 10 | درمیانہ | درمیانہ |
| پرائیویسی | 11 سے 13 | درمیانہ | زیادہ |
| ماڈلز | 14 سے 16 | زیادہ | زیادہ |
| سپورٹ اور اعتباریت | 17 سے 20 | درمیانہ | زیادہ |
“معلوم نہیں” کو 0 نمبر دینے کی ایک وجہ ہے: اگر فراہم کنندہ جواب نہیں دے سکتا، تو آپ اس پر بھروسہ نہیں کر سکتے۔
ایک ہفتے میں فراہم کنندہ کو کیسے ٹیسٹ کریں؟
- اسکورنگ شیٹ سے اپنے سرفہرست دو فراہم کنندگان چنیں۔
- ایک ہی OpenAI SDK کے ذریعے اصل ٹریفک کا ایک حصہ ہر ایک پر بھیجیں، ماڈل ID اور base URL کنفیگ میں رکھ کر۔
- ہر درخواست پر لاگ کریں: ماڈل، پرامپٹ ٹوکن، کیش شدہ ٹوکن، completion ٹوکن، لیٹنسی، اسٹیٹس کوڈ۔ مواد کبھی لاگ نہ کریں۔
- اپنا پیک لوڈ چلائیں: بیچ جاب یا متوازی ایجنٹس چلائیں، اور 429 پر نظر رکھیں۔ ایررز اور ری ٹرائز کی گائیڈ درست back-off بتاتی ہے۔
- ہفتے کے ٹوکن کو تقریباً 4.3 سے ضرب دیں اور ہر فراہم کنندہ کے لیے مہینے کی قیمت نکالیں۔
- اپنے ٹیسٹ سیٹ پر آؤٹ پٹس کو اسکور کریں۔
BroadNet Inference اس چیک لسٹ کا کیسے جواب دیتا ہے
| # | BroadNet Inference |
|---|---|
| 1, 4 | فی ٹوکن قیمتیں pricing.json میں شائع، 2026-11-14 کو سنک |
| 3 | DeepSeek V4.1 Flash کے مقررہ قیمت والے پلانز: فی سیشن $60 ماہانہ، $15 ہفتہ وار یا $1 فی گھنٹہ |
| 5 | استعمال کے مطابق ادائیگی: فی منٹ 30 درخواستیں، بیک وقت 4 جاری؛ پلان کے سیشن ایک وقت میں ایک درخواست چلاتے ہیں |
| 6 | پلانز: نہ ٹوکن میٹر، نہ رولنگ ونڈو، نہ ہفتہ وار حد |
| 7 | DeepSeek V4.1 Flash اور GLM 5.3 پر 1,048,576 ٹوکن تک؛ پلانز کے صفحے کے مطابق کانٹیکسٹ کبھی چھوٹا نہیں کیا جاتا |
| 8 | https://inference.broadnet.ai/v1 پر OpenAI-compatible |
| 11, 12 | کوئی پرامپٹ یا آؤٹ پٹ محفوظ نہیں رکھا جاتا؛ ماڈلز کی ٹریننگ، فائن ٹیوننگ یا جانچ میں استعمال نہیں ہوتا |
| 13 | 32 اندراجات تک کی IP allow-lists؛ درخواست پر سب پروسیسرز کی فہرست؛ DPA کے لیے پوچھیں |
| 14 | چار چیٹ ماڈلز اور دو اسپیچ ٹو ٹیکسٹ ماڈلز |
| 19 | BroadNet کا پرائیویسی بیان کہتا ہے کہ اس کے اپنے اور ہوسٹ کیے گئے open-weight ماڈلز امریکہ میں BroadNet کے اپنے یا لیز پر لیے گئے ہارڈویئر پر چلتے ہیں، بیک اپ کے طور پر پارٹنر کی گنجائش کے ساتھ؛ پارٹنر کے ذریعے چلنے والے ماڈلز، جیسے DeepSeek V4.1 Flash، امریکی انفرنس پارٹنرز کے ساتھ ZDR شرائط پر چلتے ہیں |
BroadNet کے ڈاکس یا پلانز کے صفحات میں ہمیں جو نہیں ملا (14 نومبر 2026 کو جانچا گیا): SLA، اسٹیٹس صفحہ یا ماڈل ہٹانے کی پالیسی۔ اگر یہ آپ کے لیے اہم ہیں تو ان کے بارے میں پوچھیں، اور اہم راستوں کے لیے ایک دوسرا فراہم کنندہ رکھیں۔ کیٹلاگ بھی کسی ایگریگیٹر سے چھوٹا ہے: اگر آپ کو GPT، Claude یا Gemini ماڈلز چاہییں، تو اس ٹریفک کے لیے BroadNet درست فراہم کنندہ نہیں۔ $5 کا ابتدائی کریڈٹ ہلکے ورک لوڈ پر ٹیسٹ پلان کے تیسرے مرحلے کے لیے کافی ہے، لیکن جن چیٹ ماڈلز کا یہ احاطہ کرتا ہے ان میں سے صرف Gemma 4 VL 26B پر (یہ دونوں Transcribe ماڈلز کا بھی احاطہ کرتا ہے)؛ باقی چیٹ ماڈلز کے لیے ٹاپ اپ چاہیے۔

