BroadRouter
شروع کریں

اسٹاپ سیکوئنس (stop sequences)

اپ ڈیٹ

اسٹاپ سیکوئنس وہ اسٹرنگز ہیں جو آپ درخواست کے ساتھ بھیجتے ہیں تاکہ ماڈل ان میں سے کوئی بھی لکھتے ہی جنریشن روک دے۔ OpenAI اس فیلڈ کو stop کہتا ہے اور 4 سیکوئنس تک قبول کرتا ہے؛ Anthropic اسے stop_sequences کہتا ہے۔ ملا ہوا متن عموماً لوٹائے گئے آؤٹ پٹ میں شامل نہیں ہوتا۔

دوسرے نام: اسٹاپ سیکوئنس، اسٹاپ اسٹرنگ، stop sequence kya hai، stop parameter kya hai، stop sequences، stop sequence، stop parameter، stop strings، stop_sequences

کبھی کبھی آپ کو ٹھیک ٹھیک معلوم ہوتا ہے کہ جواب کہاں ختم ہونا چاہیے۔ اسٹاپ سیکوئنس سرور کو وہیں جنریشن کاٹنے کو کہتا ہے، تاکہ آپ ان ٹوکنز کی قیمت نہ دیں جنہیں بعد میں پھینک دیں گے۔

یہ کیسے کام کرتا ہے

آپ ایک یا زیادہ اسٹرنگز بھیجتے ہیں۔ ہر نئے ٹوکن کے بعد سرور دیکھتا ہے کہ آؤٹ پٹ میں اب ان میں سے کوئی آ گئی ہے یا نہیں۔ آ گئی تو جنریشن ختم۔

{
  "model": "broadnet/gemma-4-26b-a4b",
  "messages": [{"role": "user", "content": "List three fruits, one per line, then write END."}],
  "stop": ["END"]
}

ذرائع کے مطابق فراہم کنندگان کی تفصیلات:

فراہم کنندہ فیلڈ نوٹس
OpenAI Chat Completions stop “Up to 4 sequences” (ترجمہ: 4 سیکوئنس تک)؛ ریفرنس اب بھی کہتا ہے “Not supported with latest reasoning models o3 and o4-mini” (ترجمہ: تازہ ترین ریزننگ ماڈلز o3 اور o4-mini کے ساتھ سپورٹ نہیں) (2026-11-16 کی عبارت)
Anthropic Messages stop_sequences جواب میں stop_reason: "stop_sequence" آتا ہے اور ملا ہوا سیکوئنس stop_sequence میں بتایا جاتا ہے
vLLM (اوپن ماڈل سرورز) stop “String(s) that stop the generation when they are generated” (ترجمہ: وہ اسٹرنگز جو جنریٹ ہوتے ہی جنریشن روک دیتی ہیں)؛ آؤٹ پٹ میں یہ شامل نہیں ہوتیں

OpenAI فارمیٹ میں اسٹاپ سیکوئنس ملنے پر finish_reason کی قدر stop آتی ہے، وہی جو فطری اختتام پر آتی ہے۔ Anthropic ان دونوں کو الگ رکھتا ہے۔

یہ کیوں اہم ہے

  • لاگت اور لیٹنسی۔ آؤٹ پٹ ٹوکنز کا بل بنتا ہے اور انہیں جنریٹ ہونے میں وقت لگتا ہے۔ کسی معلوم مارکر پر رکنے سے دونوں بچتے ہیں۔
  • فارمیٹ پر کنٹرول۔ few-shot پرامپٹس میں مثالوں کے درمیان اکثر ### جیسا ڈیلیمیٹر ہوتا ہے۔ اسی ڈیلیمیٹر پر اسٹاپ لگانے سے ماڈل اگلی مثال خود لکھنے نہیں لگتا۔
  • حدیں۔ اسٹاپ سیکوئنس یہ طے نہیں کر سکتا کہ کٹوتی سے پہلے کیا لکھا جائے۔ مشین سے پڑھے جانے والے آؤٹ پٹ کے لیے اسٹرکچرڈ آؤٹ پٹ زیادہ مضبوط ذریعہ ہے۔ حتمی بالائی حد کے طور پر max_tokens رکھیں۔

BroadNet Inference پر

BroadNet کا API ریفرنس stop کو دستاویز نہیں کرتا۔ بھروسا کرنے سے پہلے جانچیں: ایسا پرامپٹ بھیجیں جو آپ کے مارکر تک پہنچے، اور دیکھیں کہ جواب وہیں ختم ہوتا ہے یا نہیں۔ بیک اپ کے طور پر اپنے کلائنٹ میں پہلے مارکر پر متن کاٹ دیں؛ اسٹریم میں مارکر نظر آتے ہی آپ ریڈر بند بھی کر سکتے ہیں۔ BroadNet کے ریزننگ ماڈلز (DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B) جواب دینے سے پہلے سوچتے ہیں، اس لیے یہ بھی جانچیں کہ اسٹاپ اسٹرنگ ریزننگ کے اندر تو میچ نہیں ہو جاتی۔ مائیگریشن واک تھرو میں جانچنے کے قابل دوسرے OpenAI فیلڈز کی فہرست ہے۔

عام غلطیاں

  • ایسی اسٹاپ اسٹرنگ چننا جو عام آؤٹ پٹ میں آ سکتی ہو، جیسے newline یا کوئی عام لفظ۔
  • یہ فرض کر لینا کہ اسٹاپ اسٹرنگ جواب میں واپس آئے گی، اور اسے پارس کرنے کی کوشش کرنا۔

عام سوالات

میں کتنے اسٹاپ سیکوئنس بھیج سکتا ہوں؟

OpenAI کا ریفرنس stop میں 4 سیکوئنس تک کی اجازت دیتا ہے۔ دوسرے فراہم کنندگان اپنی حدیں خود طے کرتے ہیں، اس لیے ان کا ریفرنس دیکھیں۔

کیا اسٹاپ سیکوئنس جواب میں شامل ہوتا ہے؟

عموماً نہیں۔ vLLM کی دستاویزات کہتی ہیں کہ لوٹائے گئے آؤٹ پٹ میں اسٹاپ اسٹرنگ شامل نہیں ہوتی۔ Anthropic ایک الگ stop_sequence فیلڈ میں بتاتا ہے کہ کون سا سیکوئنس لگا۔

کیا BroadNet Inference، stop کو سپورٹ کرتا ہے؟

BroadNet کا API ریفرنس stop کو دستاویز نہیں کرتا۔ بھروسا کرنے سے پہلے اسے اپنے ماڈل پر جانچیں، اور بیک اپ کے طور پر کلائنٹ کی طرف متن کاٹنے کا انتظام رکھیں۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں