Bazen bir yanıtın tam olarak nerede bitmesi gerektiğini bilirsiniz. Durdurma dizisi, sunucuya üretimi orada kesmesini söyler; böylece zaten atacağınız token’lar için ödeme yapmazsınız.
Nasıl çalışır
Bir veya daha fazla metin gönderirsiniz. Sunucu her yeni token’dan sonra çıktının bunlardan birini içerip içermediğini kontrol eder. İçeriyorsa üretim biter.
{
"model": "broadnet/gemma-4-26b-a4b",
"messages": [{"role": "user", "content": "List three fruits, one per line, then write END."}],
"stop": ["END"]
}
Kaynaklardaki sağlayıcı ayrıntıları:
| Sağlayıcı | Alan | Notlar |
|---|---|---|
| OpenAI Chat Completions | stop |
“Up to 4 sequences” (çeviri: en fazla 4 dizi); referans hâlâ “Not supported with latest reasoning models o3 and o4-mini” (çeviri: en yeni akıl yürütme modelleri o3 ve o4-mini ile desteklenmez) der (2026-11-16 itibarıyla ifade) |
| Anthropic Messages | stop_sequences |
Yanıtta stop_reason: "stop_sequence" bulunur ve eşleşen dizi stop_sequence alanında belirtilir |
| vLLM (açık model sunucuları) | stop |
“String(s) that stop the generation when they are generated” (çeviri: üretildiklerinde üretimi durduran metin(ler)); çıktı bunları içermez |
OpenAI formatında eşleşen bir durdurma dizisi, doğal bir bitişle aynı değer olan stop finish_reason değerini bildirir. Anthropic ise ikisini ayırır.
Neden önemli
- Maliyet ve gecikme. Çıktı token’ları faturalandırılır ve üretilmeleri yavaştır. Bilinen bir işarette durmak ikisinden de tasarruf sağlar.
- Format kontrolü. Few-shot istemler, örnekler arasında sık sık
###gibi bir ayırıcı kullanır. Bu ayırıcıda durdurmak, modelin bir sonraki örneği kendisinin yazmasını engeller. - Sınırlar. Durdurma dizisi, kesme noktasından önce gelen içeriği şekillendiremez. Makinenin okuyacağı çıktı için yapılandırılmış çıktı daha güçlü bir araçtır. Kesin üst sınır olarak max_tokens değerini koruyun.
BroadNet Inference’ta
BroadNet’in API referansı stop alanını belgelemez. Güvenmeden önce test edin: işaretinize ulaşması gereken bir istem gönderin ve yanıtın orada bitip bitmediğine bakın. Yedek çözüm olarak metni istemcinizde ilk işarette kesin; bir akışta işaret göründüğünde okuyucuyu da kapatabilirsiniz. BroadNet’teki akıl yürütme modelleri (DeepSeek V4.1 Flash, GLM 5.3 ve Qwen3.8 27B) yanıt vermeden önce düşünür; bu yüzden bir durdurma metninin akıl yürütme içinde eşleşip eşleşemeyeceğini test edin. Geçiş rehberi, kontrol edilmesi gereken diğer OpenAI alanlarını listeler.
Sık yapılan hatalar
- Satır sonu veya yaygın bir kelime gibi normal çıktıda geçebilecek bir durdurma metni seçmek.
- Durdurma metninin yanıtta geri geleceğini varsayıp onu ayrıştırmaya çalışmak.