سیمپلنگ جان بوجھ کر رینڈم ہوتی ہے۔ seed اس رینڈمنیس کو مقرر کر دیتا ہے، تاکہ دوبارہ چلانے پر پہلے رن سے میل کھانے کا امکان بنے۔
یہ کیسے کام کرتا ہے
جب ٹمپریچر صفر سے اوپر ہو، تو سرور ہر اگلا ٹوکن ماڈل کی تقسیم سے رینڈم طریقے سے چنتا ہے۔ یہ انتخاب ایک رینڈم نمبر جنریٹر چلاتا ہے۔ اس کی ابتدائی قدر، یعنی seed، مقرر کر دیں تو اسی درخواست پر وہی انتخاب ہونے چاہییں۔
OpenAI کا ریفرنس seed کو Beta قرار دیتا ہے۔ cookbook کہتی ہے “our system will make a best effort to sample deterministically” (ترجمہ: ہمارا سسٹم deterministic طریقے سے سیمپل کرنے کی پوری کوشش کرے گا)۔ میل کھاتے آؤٹ پٹ کے لیے وہ درخواستوں میں یہ چیزیں ایک جیسی رکھنے کو کہتی ہے:
seedعدد صحیح،- پرامپٹ اور پیغامات،
temperature، top_p اورmax_tokens۔
جواب میں system_fingerprint آتا ہے، جس کے بارے میں OpenAI کہتا ہے کہ یہ “represents the backend configuration that the model runs with” (ترجمہ: اس بیک اینڈ کنفیگریشن کی نمائندگی کرتا ہے جس پر ماڈل چلتا ہے)۔ اگر دو رنز کے درمیان یہ بدل جائے تو اسی seed کے باوجود مختلف آؤٹ پٹ کی توقع رکھیں۔
r = client.chat.completions.create(
model=MODEL, seed=42, temperature=0.7,
messages=[{"role": "user", "content": "Name a colour."}],
)
print(r.choices[0].message.content, r.system_fingerprint)
اوپن ماڈل سرورز میں بھی یہی سہولت ہے۔ vLLM کے SamplingParams میں seed ہے، “Random seed to use for the generation” (ترجمہ: جنریشن کے لیے استعمال ہونے والا رینڈم seed)، جس کی ڈیفالٹ قدر none ہے۔
یہ کیوں اہم ہے
- Evals۔ جب آپ کسی eval میں پرامپٹس یا ماڈلز کا موازنہ کرتے ہیں، تو مقرر seed رنز کے درمیان شور کم کرتا ہے۔ پھر بھی کئی سیمپل چلائیں؛ best effort ضمانت نہیں ہے۔
- ڈی بگنگ۔ seed والی درخواست سے کسی عجیب جواب کو دوبارہ پیدا کرنا آسان ہوتا ہے۔
- کیشنگ۔ اگر آپ جوابات کیش کرتے ہیں تو کیش key میں seed شامل کریں، جیسا رسپانس کیشنگ والی پوسٹ کرتی ہے۔
BroadNet Inference پر
BroadNet کا API ریفرنس seed یا system_fingerprint کو دستاویز نہیں کرتا۔ بھروسا کرنے سے پہلے جانچیں: seed والی ایک ہی درخواست پانچ بار بھیجیں اور آؤٹ پٹس کا موازنہ کریں۔ اگر وہ مختلف ہوں تو temperature کم کریں، ضروری آؤٹ پٹس محفوظ کریں، اور ایک کے بجائے کئی سیمپلز پر جانچ کریں۔ مائیگریشن واک تھرو seed کو ان OpenAI فیلڈز میں گنتا ہے جنہیں جانچنا یا ہٹانا ہے۔
عام غلطیاں
- seed کو بائٹ بہ بائٹ یکساں آؤٹ پٹ کا وعدہ سمجھ لینا۔
- رنز کے درمیان max_tokens یا سسٹم پرامپٹ بدلنا اور فرق کا الزام seed پر ڈالنا۔