कभी-कभी आपको ठीक-ठीक पता होता है कि जवाब कहाँ ख़त्म होना चाहिए। स्टॉप सीक्वेंस सर्वर को वहीं जनरेशन काटने को कहता है, ताकि आप उन टोकन का पैसा न दें जिन्हें बाद में फेंक देंगे।
यह कैसे काम करता है
आप एक या ज़्यादा स्ट्रिंग भेजते हैं। हर नए टोकन के बाद सर्वर देखता है कि आउटपुट में अब इनमें से कोई स्ट्रिंग आ गई है या नहीं। आ गई, तो जनरेशन ख़त्म।
{
"model": "broadnet/gemma-4-26b-a4b",
"messages": [{"role": "user", "content": "List three fruits, one per line, then write END."}],
"stop": ["END"]
}
स्रोतों के मुताबिक़ प्रोवाइडर के ब्योरे:
| प्रोवाइडर | फ़ील्ड | नोट |
|---|---|---|
| OpenAI Chat Completions | stop |
“Up to 4 sequences” (अनुवाद: 4 सीक्वेंस तक); रेफ़रंस अब भी कहता है “Not supported with latest reasoning models o3 and o4-mini” (अनुवाद: नए रीज़निंग मॉडल o3 और o4-mini के साथ सपोर्ट नहीं) (2026-11-16 तक का शब्दांकन) |
| Anthropic Messages | stop_sequences |
जवाब में stop_reason: "stop_sequence" आता है और मिला हुआ सीक्वेंस stop_sequence में बताया जाता है |
| vLLM (ओपन मॉडल सर्वर) | stop |
“String(s) that stop the generation when they are generated” (अनुवाद: वे स्ट्रिंग जो जनरेट होते ही जनरेशन रोक देती हैं); आउटपुट में ये शामिल नहीं होतीं |
OpenAI फ़ॉर्मैट में स्टॉप सीक्वेंस मिलने पर finish_reason stop आता है, वही वैल्यू जो स्वाभाविक अंत पर आती है। Anthropic इन दोनों को अलग रखता है।
यह क्यों मायने रखता है
- लागत और लेटेंसी. आउटपुट टोकन का बिल बनता है और उन्हें जनरेट होने में समय लगता है। किसी तय मार्कर पर रुकने से दोनों बचते हैं।
- फ़ॉर्मैट पर नियंत्रण. few-shot प्रॉम्प्ट में उदाहरणों के बीच अक्सर
###जैसा डिलिमिटर होता है। उसी डिलिमिटर पर स्टॉप लगाने से मॉडल अगला उदाहरण ख़ुद लिखने नहीं लगता। - सीमाएँ. स्टॉप सीक्वेंस यह तय नहीं कर सकता कि कटौती से पहले क्या लिखा जाए। मशीन से पढ़े जाने वाले आउटपुट के लिए स्ट्रक्चर्ड आउटपुट ज़्यादा मज़बूत तरीक़ा है। पक्की ऊपरी सीमा के लिए max_tokens रखें।
BroadNet Inference पर
BroadNet का API रेफ़रंस stop को डॉक्यूमेंट नहीं करता। भरोसा करने से पहले टेस्ट करें: ऐसा प्रॉम्प्ट भेजें जो आपके मार्कर तक पहुँचे, और देखें कि जवाब वहीं ख़त्म होता है या नहीं। बैकअप के तौर पर अपने क्लाइंट में पहले मार्कर पर टेक्स्ट काट दें; स्ट्रीम में मार्कर दिखते ही आप रीडर बंद भी कर सकते हैं। BroadNet के रीज़निंग मॉडल (DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B) जवाब देने से पहले सोचते हैं, इसलिए यह भी टेस्ट करें कि स्टॉप स्ट्रिंग रीज़निंग के अंदर तो मैच नहीं हो जाती। माइग्रेशन वॉकथ्रू में जाँचने लायक़ दूसरे OpenAI फ़ील्ड की सूची है।
आम ग़लतियाँ
- ऐसी स्टॉप स्ट्रिंग चुनना जो सामान्य आउटपुट में आ सकती है, जैसे newline या कोई आम शब्द।
- यह मान लेना कि स्टॉप स्ट्रिंग जवाब में वापस आएगी, और उसे पार्स करने की कोशिश करना।