Às vezes você sabe exatamente onde uma resposta deve terminar. Uma sequência de parada diz ao servidor para cortar a geração ali, em vez de você pagar por tokens que vai jogar fora.
Como funciona
Você passa uma ou mais strings. Depois de cada novo token, o servidor verifica se a saída passou a conter uma delas. Se sim, a geração termina.
{
"model": "broadnet/gemma-4-26b-a4b",
"messages": [{"role": "user", "content": "List three fruits, one per line, then write END."}],
"stop": ["END"]
}
Detalhes dos provedores, segundo as fontes:
| Provedor | Campo | Observações |
|---|---|---|
| OpenAI Chat Completions | stop |
“Up to 4 sequences” (até 4 sequências); a referência ainda diz “Not supported with latest reasoning models o3 and o4-mini” (não suportado nos modelos de raciocínio mais recentes o3 e o4-mini; texto em 2026-11-16) |
| Anthropic Messages | stop_sequences |
A resposta traz stop_reason: "stop_sequence" e indica a correspondência em stop_sequence |
| vLLM (servidores de modelos abertos) | stop |
“String(s) that stop the generation when they are generated” (strings que param a geração quando são geradas); a saída as exclui |
No formato da OpenAI, uma sequência de parada encontrada retorna finish_reason stop, o mesmo valor de um fim natural. A Anthropic separa os dois casos.
Por que isso importa
- Custo e latência. Tokens de saída são cobrados e demoram para ser gerados. Parar em um marcador conhecido economiza nos dois.
- Controle do formato. Prompts few-shot costumam usar um delimitador como
###entre os exemplos. Um stop nesse delimitador impede o modelo de escrever o próximo exemplo por conta própria. - Limites. Uma sequência de parada não molda o que vem antes do corte. Para saídas legíveis por máquina, a saída estruturada é a ferramenta mais forte. Mantenha max_tokens como teto rígido.
Na BroadNet Inference
A referência da API da BroadNet não documenta stop. Teste antes de depender dele: envie um prompt que deveria chegar ao seu marcador e veja se a resposta termina ali. Como alternativa, corte o texto no cliente no primeiro marcador; em um stream, você também pode fechar o reader assim que o marcador aparecer. Os modelos de raciocínio da BroadNet (DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B) pensam antes de responder, então teste se uma string de parada pode ser encontrada dentro do raciocínio. O passo a passo da migração lista outros campos da OpenAI para conferir.
Erros comuns
- Escolher uma string de parada que pode aparecer na saída normal, como uma quebra de linha ou uma palavra comum.
- Presumir que a string de parada volta na resposta e procurá-la no parsing.