کبھی کبھی آپ کو ٹھیک ٹھیک معلوم ہوتا ہے کہ جواب کہاں ختم ہونا چاہیے۔ اسٹاپ سیکوئنس سرور کو وہیں جنریشن کاٹنے کو کہتا ہے، تاکہ آپ ان ٹوکنز کی قیمت نہ دیں جنہیں بعد میں پھینک دیں گے۔
یہ کیسے کام کرتا ہے
آپ ایک یا زیادہ اسٹرنگز بھیجتے ہیں۔ ہر نئے ٹوکن کے بعد سرور دیکھتا ہے کہ آؤٹ پٹ میں اب ان میں سے کوئی آ گئی ہے یا نہیں۔ آ گئی تو جنریشن ختم۔
{
"model": "broadnet/gemma-4-26b-a4b",
"messages": [{"role": "user", "content": "List three fruits, one per line, then write END."}],
"stop": ["END"]
}
ذرائع کے مطابق فراہم کنندگان کی تفصیلات:
| فراہم کنندہ | فیلڈ | نوٹس |
|---|---|---|
| OpenAI Chat Completions | stop |
“Up to 4 sequences” (ترجمہ: 4 سیکوئنس تک)؛ ریفرنس اب بھی کہتا ہے “Not supported with latest reasoning models o3 and o4-mini” (ترجمہ: تازہ ترین ریزننگ ماڈلز o3 اور o4-mini کے ساتھ سپورٹ نہیں) (2026-11-16 کی عبارت) |
| Anthropic Messages | stop_sequences |
جواب میں stop_reason: "stop_sequence" آتا ہے اور ملا ہوا سیکوئنس stop_sequence میں بتایا جاتا ہے |
| vLLM (اوپن ماڈل سرورز) | stop |
“String(s) that stop the generation when they are generated” (ترجمہ: وہ اسٹرنگز جو جنریٹ ہوتے ہی جنریشن روک دیتی ہیں)؛ آؤٹ پٹ میں یہ شامل نہیں ہوتیں |
OpenAI فارمیٹ میں اسٹاپ سیکوئنس ملنے پر finish_reason کی قدر stop آتی ہے، وہی جو فطری اختتام پر آتی ہے۔ Anthropic ان دونوں کو الگ رکھتا ہے۔
یہ کیوں اہم ہے
- لاگت اور لیٹنسی۔ آؤٹ پٹ ٹوکنز کا بل بنتا ہے اور انہیں جنریٹ ہونے میں وقت لگتا ہے۔ کسی معلوم مارکر پر رکنے سے دونوں بچتے ہیں۔
- فارمیٹ پر کنٹرول۔ few-shot پرامپٹس میں مثالوں کے درمیان اکثر
###جیسا ڈیلیمیٹر ہوتا ہے۔ اسی ڈیلیمیٹر پر اسٹاپ لگانے سے ماڈل اگلی مثال خود لکھنے نہیں لگتا۔ - حدیں۔ اسٹاپ سیکوئنس یہ طے نہیں کر سکتا کہ کٹوتی سے پہلے کیا لکھا جائے۔ مشین سے پڑھے جانے والے آؤٹ پٹ کے لیے اسٹرکچرڈ آؤٹ پٹ زیادہ مضبوط ذریعہ ہے۔ حتمی بالائی حد کے طور پر max_tokens رکھیں۔
BroadNet Inference پر
BroadNet کا API ریفرنس stop کو دستاویز نہیں کرتا۔ بھروسا کرنے سے پہلے جانچیں: ایسا پرامپٹ بھیجیں جو آپ کے مارکر تک پہنچے، اور دیکھیں کہ جواب وہیں ختم ہوتا ہے یا نہیں۔ بیک اپ کے طور پر اپنے کلائنٹ میں پہلے مارکر پر متن کاٹ دیں؛ اسٹریم میں مارکر نظر آتے ہی آپ ریڈر بند بھی کر سکتے ہیں۔ BroadNet کے ریزننگ ماڈلز (DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B) جواب دینے سے پہلے سوچتے ہیں، اس لیے یہ بھی جانچیں کہ اسٹاپ اسٹرنگ ریزننگ کے اندر تو میچ نہیں ہو جاتی۔ مائیگریشن واک تھرو میں جانچنے کے قابل دوسرے OpenAI فیلڈز کی فہرست ہے۔
عام غلطیاں
- ایسی اسٹاپ اسٹرنگ چننا جو عام آؤٹ پٹ میں آ سکتی ہو، جیسے newline یا کوئی عام لفظ۔
- یہ فرض کر لینا کہ اسٹاپ اسٹرنگ جواب میں واپس آئے گی، اور اسے پارس کرنے کی کوشش کرنا۔