BroadRouter
Başlayın

Durdurma dizileri (stop sequences)

Güncellendi

Durdurma dizileri (stop sequences), istekle birlikte gönderdiğiniz ve model bunlardan birini ürettiği anda üretimi durduran metinlerdir. OpenAI bu alana stop der ve en fazla 4 dizi kabul eder; Anthropic ise stop_sequences adını kullanır. Eşleşen metin normalde döndürülen çıktıya dahil edilmez.

Diğer adları: durdurma dizisi, stop dizisi, stop parametresi, durdurma metni, stop sequence, stop sequences, stop strings, stop_sequences

Bazen bir yanıtın tam olarak nerede bitmesi gerektiğini bilirsiniz. Durdurma dizisi, sunucuya üretimi orada kesmesini söyler; böylece zaten atacağınız token’lar için ödeme yapmazsınız.

Nasıl çalışır

Bir veya daha fazla metin gönderirsiniz. Sunucu her yeni token’dan sonra çıktının bunlardan birini içerip içermediğini kontrol eder. İçeriyorsa üretim biter.

{
  "model": "broadnet/gemma-4-26b-a4b",
  "messages": [{"role": "user", "content": "List three fruits, one per line, then write END."}],
  "stop": ["END"]
}

Kaynaklardaki sağlayıcı ayrıntıları:

Sağlayıcı Alan Notlar
OpenAI Chat Completions stop “Up to 4 sequences” (çeviri: en fazla 4 dizi); referans hâlâ “Not supported with latest reasoning models o3 and o4-mini” (çeviri: en yeni akıl yürütme modelleri o3 ve o4-mini ile desteklenmez) der (2026-11-16 itibarıyla ifade)
Anthropic Messages stop_sequences Yanıtta stop_reason: "stop_sequence" bulunur ve eşleşen dizi stop_sequence alanında belirtilir
vLLM (açık model sunucuları) stop “String(s) that stop the generation when they are generated” (çeviri: üretildiklerinde üretimi durduran metin(ler)); çıktı bunları içermez

OpenAI formatında eşleşen bir durdurma dizisi, doğal bir bitişle aynı değer olan stop finish_reason değerini bildirir. Anthropic ise ikisini ayırır.

Neden önemli

  • Maliyet ve gecikme. Çıktı token’ları faturalandırılır ve üretilmeleri yavaştır. Bilinen bir işarette durmak ikisinden de tasarruf sağlar.
  • Format kontrolü. Few-shot istemler, örnekler arasında sık sık ### gibi bir ayırıcı kullanır. Bu ayırıcıda durdurmak, modelin bir sonraki örneği kendisinin yazmasını engeller.
  • Sınırlar. Durdurma dizisi, kesme noktasından önce gelen içeriği şekillendiremez. Makinenin okuyacağı çıktı için yapılandırılmış çıktı daha güçlü bir araçtır. Kesin üst sınır olarak max_tokens değerini koruyun.

BroadNet Inference’ta

BroadNet’in API referansı stop alanını belgelemez. Güvenmeden önce test edin: işaretinize ulaşması gereken bir istem gönderin ve yanıtın orada bitip bitmediğine bakın. Yedek çözüm olarak metni istemcinizde ilk işarette kesin; bir akışta işaret göründüğünde okuyucuyu da kapatabilirsiniz. BroadNet’teki akıl yürütme modelleri (DeepSeek V4.1 Flash, GLM 5.3 ve Qwen3.8 27B) yanıt vermeden önce düşünür; bu yüzden bir durdurma metninin akıl yürütme içinde eşleşip eşleşemeyeceğini test edin. Geçiş rehberi, kontrol edilmesi gereken diğer OpenAI alanlarını listeler.

Sık yapılan hatalar

  • Satır sonu veya yaygın bir kelime gibi normal çıktıda geçebilecek bir durdurma metni seçmek.
  • Durdurma metninin yanıtta geri geleceğini varsayıp onu ayrıştırmaya çalışmak.

Sık sorulan sorular

Kaç tane durdurma dizisi gönderebilirim?

OpenAI'nin referansı stop alanında en fazla 4 diziye izin verir. Diğer sağlayıcılar kendi sınırlarını belirler; bu yüzden onların referansına bakın.

Durdurma dizisi yanıta dahil edilir mi?

Genellikle hayır. vLLM'in belgeleri döndürülen çıktının durdurma metnini içermediğini söyler. Anthropic, hangi dizinin tetiklendiğini ayrı bir stop_sequence alanında döndürür.

BroadNet Inference stop parametresini destekliyor mu?

BroadNet'in API referansı stop alanını belgelemez. Güvenmeden önce modelinizde test edin ve yedek olarak istemci tarafında kesme yapın.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor