BroadRouter
शुरू करें

स्टॉप सीक्वेंस (stop sequences)

अपडेट किया गया

स्टॉप सीक्वेंस वे स्ट्रिंग हैं जो आप अनुरोध के साथ भेजते हैं, ताकि मॉडल इनमें से कोई भी लिखते ही जनरेशन रोक दे। OpenAI इस फ़ील्ड को stop कहता है और 4 सीक्वेंस तक लेता है; Anthropic इसे stop_sequences कहता है। मिला हुआ टेक्स्ट आम तौर पर लौटाए गए आउटपुट में नहीं होता।

अन्य नाम: स्टॉप सीक्वेंस, स्टॉप स्ट्रिंग, stop sequence kya hai, stop parameter kya hai, stop sequences, stop sequence, stop parameter, stop strings, stop_sequences

कभी-कभी आपको ठीक-ठीक पता होता है कि जवाब कहाँ ख़त्म होना चाहिए। स्टॉप सीक्वेंस सर्वर को वहीं जनरेशन काटने को कहता है, ताकि आप उन टोकन का पैसा न दें जिन्हें बाद में फेंक देंगे।

यह कैसे काम करता है

आप एक या ज़्यादा स्ट्रिंग भेजते हैं। हर नए टोकन के बाद सर्वर देखता है कि आउटपुट में अब इनमें से कोई स्ट्रिंग आ गई है या नहीं। आ गई, तो जनरेशन ख़त्म।

{
  "model": "broadnet/gemma-4-26b-a4b",
  "messages": [{"role": "user", "content": "List three fruits, one per line, then write END."}],
  "stop": ["END"]
}

स्रोतों के मुताबिक़ प्रोवाइडर के ब्योरे:

प्रोवाइडर फ़ील्ड नोट
OpenAI Chat Completions stop “Up to 4 sequences” (अनुवाद: 4 सीक्वेंस तक); रेफ़रंस अब भी कहता है “Not supported with latest reasoning models o3 and o4-mini” (अनुवाद: नए रीज़निंग मॉडल o3 और o4-mini के साथ सपोर्ट नहीं) (2026-11-16 तक का शब्दांकन)
Anthropic Messages stop_sequences जवाब में stop_reason: "stop_sequence" आता है और मिला हुआ सीक्वेंस stop_sequence में बताया जाता है
vLLM (ओपन मॉडल सर्वर) stop “String(s) that stop the generation when they are generated” (अनुवाद: वे स्ट्रिंग जो जनरेट होते ही जनरेशन रोक देती हैं); आउटपुट में ये शामिल नहीं होतीं

OpenAI फ़ॉर्मैट में स्टॉप सीक्वेंस मिलने पर finish_reason stop आता है, वही वैल्यू जो स्वाभाविक अंत पर आती है। Anthropic इन दोनों को अलग रखता है।

यह क्यों मायने रखता है

  • लागत और लेटेंसी. आउटपुट टोकन का बिल बनता है और उन्हें जनरेट होने में समय लगता है। किसी तय मार्कर पर रुकने से दोनों बचते हैं।
  • फ़ॉर्मैट पर नियंत्रण. few-shot प्रॉम्प्ट में उदाहरणों के बीच अक्सर ### जैसा डिलिमिटर होता है। उसी डिलिमिटर पर स्टॉप लगाने से मॉडल अगला उदाहरण ख़ुद लिखने नहीं लगता।
  • सीमाएँ. स्टॉप सीक्वेंस यह तय नहीं कर सकता कि कटौती से पहले क्या लिखा जाए। मशीन से पढ़े जाने वाले आउटपुट के लिए स्ट्रक्चर्ड आउटपुट ज़्यादा मज़बूत तरीक़ा है। पक्की ऊपरी सीमा के लिए max_tokens रखें।

BroadNet Inference पर

BroadNet का API रेफ़रंस stop को डॉक्यूमेंट नहीं करता। भरोसा करने से पहले टेस्ट करें: ऐसा प्रॉम्प्ट भेजें जो आपके मार्कर तक पहुँचे, और देखें कि जवाब वहीं ख़त्म होता है या नहीं। बैकअप के तौर पर अपने क्लाइंट में पहले मार्कर पर टेक्स्ट काट दें; स्ट्रीम में मार्कर दिखते ही आप रीडर बंद भी कर सकते हैं। BroadNet के रीज़निंग मॉडल (DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B) जवाब देने से पहले सोचते हैं, इसलिए यह भी टेस्ट करें कि स्टॉप स्ट्रिंग रीज़निंग के अंदर तो मैच नहीं हो जाती। माइग्रेशन वॉकथ्रू में जाँचने लायक़ दूसरे OpenAI फ़ील्ड की सूची है।

आम ग़लतियाँ

  • ऐसी स्टॉप स्ट्रिंग चुनना जो सामान्य आउटपुट में आ सकती है, जैसे newline या कोई आम शब्द।
  • यह मान लेना कि स्टॉप स्ट्रिंग जवाब में वापस आएगी, और उसे पार्स करने की कोशिश करना।

अक्सर पूछे जाने वाले सवाल

मैं कितने स्टॉप सीक्वेंस भेज सकता हूँ?

OpenAI का रेफ़रंस stop में 4 सीक्वेंस तक की इजाज़त देता है। दूसरे प्रोवाइडर अपनी सीमा ख़ुद तय करते हैं, इसलिए उनका रेफ़रंस देखें।

क्या स्टॉप सीक्वेंस जवाब में शामिल होता है?

आम तौर पर नहीं। vLLM के डॉक्स कहते हैं कि लौटाए गए आउटपुट में स्टॉप स्ट्रिंग नहीं होती। Anthropic एक अलग stop_sequence फ़ील्ड में बताता है कि कौन-सा सीक्वेंस लगा।

क्या BroadNet Inference, stop सपोर्ट करता है?

BroadNet का API रेफ़रंस stop को डॉक्यूमेंट नहीं करता। भरोसा करने से पहले इसे अपने मॉडल पर टेस्ट करें, और बैकअप के तौर पर क्लाइंट की तरफ़ टेक्स्ट काटने का इंतज़ाम रखें।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें