BroadRouter
شروع کریں

seed پیرامیٹر (seed parameter)

اپ ڈیٹ

seed پیرامیٹر ایک عدد صحیح ہے جو آپ درخواست کے ساتھ بھیجتے ہیں تاکہ وہی درخواست دہرانے پر API وہی ٹوکن سیمپل کرنے کی کوشش کرے۔ OpenAI اسے best effort کہتا ہے: determinism کی ضمانت نہیں، اور system_fingerprint فیلڈ دکھاتا ہے کہ بیک اینڈ کنفیگریشن کب بدلی۔

دوسرے نام: سیڈ پیرامیٹر، رینڈم سیڈ، seed parameter kya hai، LLM mein seed kya hota hai، seed parameter، random seed، reproducible outputs، deterministic outputs، system_fingerprint

سیمپلنگ جان بوجھ کر رینڈم ہوتی ہے۔ seed اس رینڈمنیس کو مقرر کر دیتا ہے، تاکہ دوبارہ چلانے پر پہلے رن سے میل کھانے کا امکان بنے۔

یہ کیسے کام کرتا ہے

جب ٹمپریچر صفر سے اوپر ہو، تو سرور ہر اگلا ٹوکن ماڈل کی تقسیم سے رینڈم طریقے سے چنتا ہے۔ یہ انتخاب ایک رینڈم نمبر جنریٹر چلاتا ہے۔ اس کی ابتدائی قدر، یعنی seed، مقرر کر دیں تو اسی درخواست پر وہی انتخاب ہونے چاہییں۔

OpenAI کا ریفرنس seed کو Beta قرار دیتا ہے۔ cookbook کہتی ہے “our system will make a best effort to sample deterministically” (ترجمہ: ہمارا سسٹم deterministic طریقے سے سیمپل کرنے کی پوری کوشش کرے گا)۔ میل کھاتے آؤٹ پٹ کے لیے وہ درخواستوں میں یہ چیزیں ایک جیسی رکھنے کو کہتی ہے:

  • seed عدد صحیح،
  • پرامپٹ اور پیغامات،
  • temperature، top_p اور max_tokens۔

جواب میں system_fingerprint آتا ہے، جس کے بارے میں OpenAI کہتا ہے کہ یہ “represents the backend configuration that the model runs with” (ترجمہ: اس بیک اینڈ کنفیگریشن کی نمائندگی کرتا ہے جس پر ماڈل چلتا ہے)۔ اگر دو رنز کے درمیان یہ بدل جائے تو اسی seed کے باوجود مختلف آؤٹ پٹ کی توقع رکھیں۔

r = client.chat.completions.create(
    model=MODEL, seed=42, temperature=0.7,
    messages=[{"role": "user", "content": "Name a colour."}],
)
print(r.choices[0].message.content, r.system_fingerprint)

اوپن ماڈل سرورز میں بھی یہی سہولت ہے۔ vLLM کے SamplingParams میں seed ہے، “Random seed to use for the generation” (ترجمہ: جنریشن کے لیے استعمال ہونے والا رینڈم seed)، جس کی ڈیفالٹ قدر none ہے۔

یہ کیوں اہم ہے

  • Evals۔ جب آپ کسی eval میں پرامپٹس یا ماڈلز کا موازنہ کرتے ہیں، تو مقرر seed رنز کے درمیان شور کم کرتا ہے۔ پھر بھی کئی سیمپل چلائیں؛ best effort ضمانت نہیں ہے۔
  • ڈی بگنگ۔ seed والی درخواست سے کسی عجیب جواب کو دوبارہ پیدا کرنا آسان ہوتا ہے۔
  • کیشنگ۔ اگر آپ جوابات کیش کرتے ہیں تو کیش key میں seed شامل کریں، جیسا رسپانس کیشنگ والی پوسٹ کرتی ہے۔

BroadNet Inference پر

BroadNet کا API ریفرنس seed یا system_fingerprint کو دستاویز نہیں کرتا۔ بھروسا کرنے سے پہلے جانچیں: seed والی ایک ہی درخواست پانچ بار بھیجیں اور آؤٹ پٹس کا موازنہ کریں۔ اگر وہ مختلف ہوں تو temperature کم کریں، ضروری آؤٹ پٹس محفوظ کریں، اور ایک کے بجائے کئی سیمپلز پر جانچ کریں۔ مائیگریشن واک تھرو seed کو ان OpenAI فیلڈز میں گنتا ہے جنہیں جانچنا یا ہٹانا ہے۔

عام غلطیاں

  • seed کو بائٹ بہ بائٹ یکساں آؤٹ پٹ کا وعدہ سمجھ لینا۔
  • رنز کے درمیان max_tokens یا سسٹم پرامپٹ بدلنا اور فرق کا الزام seed پر ڈالنا۔

عام سوالات

کیا ایک ہی seed سے ہمیشہ وہی جواب ملتا ہے؟

نہیں۔ OpenAI کہتا ہے "Determinism is not guaranteed" (ترجمہ: determinism کی ضمانت نہیں)، اور پیرامیٹرز اور system_fingerprint ملنے پر بھی "a small chance that responses differ" (ترجمہ: جوابات مختلف ہونے کا معمولی امکان) رہتا ہے۔

کیا temperature 0 اور seed سیٹ کرنا ایک ہی بات ہے؟

بالکل نہیں۔ کم temperature سب سے اوپر والے ٹوکن کو بہت ممکن بناتا ہے؛ seed رینڈم انتخاب کو مقرر کرتا ہے۔ کئی ٹیمیں دونوں استعمال کرتی ہیں، لیکن اکیلے کوئی بھی یکساں آؤٹ پٹ کی ضمانت نہیں دیتا۔

کیا BroadNet Inference، seed کو سپورٹ کرتا ہے؟

BroadNet کا API ریفرنس seed یا system_fingerprint کو دستاویز نہیں کرتا۔ بھروسا کرنے سے پہلے seed والی ایک ہی درخواست کئی بار بھیج کر موازنہ کریں۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں