BroadRouter
Começar

Sequências de parada (stop sequences)

Atualizado em

Sequências de parada são strings que você envia com a requisição e que fazem o modelo parar de gerar assim que produz uma delas. A OpenAI chama o campo de stop e aceita até 4 sequências; a Anthropic o chama de stop_sequences. Normalmente o texto encontrado fica fora da saída retornada.

Também chamado de: sequências de parada, sequência de parada, stop sequence, parâmetro stop, strings de parada, stop parameter, stop strings, stop_sequences

Às vezes você sabe exatamente onde uma resposta deve terminar. Uma sequência de parada diz ao servidor para cortar a geração ali, em vez de você pagar por tokens que vai jogar fora.

Como funciona

Você passa uma ou mais strings. Depois de cada novo token, o servidor verifica se a saída passou a conter uma delas. Se sim, a geração termina.

{
  "model": "broadnet/gemma-4-26b-a4b",
  "messages": [{"role": "user", "content": "List three fruits, one per line, then write END."}],
  "stop": ["END"]
}

Detalhes dos provedores, segundo as fontes:

Provedor Campo Observações
OpenAI Chat Completions stop “Up to 4 sequences” (até 4 sequências); a referência ainda diz “Not supported with latest reasoning models o3 and o4-mini” (não suportado nos modelos de raciocínio mais recentes o3 e o4-mini; texto em 2026-11-16)
Anthropic Messages stop_sequences A resposta traz stop_reason: "stop_sequence" e indica a correspondência em stop_sequence
vLLM (servidores de modelos abertos) stop “String(s) that stop the generation when they are generated” (strings que param a geração quando são geradas); a saída as exclui

No formato da OpenAI, uma sequência de parada encontrada retorna finish_reason stop, o mesmo valor de um fim natural. A Anthropic separa os dois casos.

Por que isso importa

  • Custo e latência. Tokens de saída são cobrados e demoram para ser gerados. Parar em um marcador conhecido economiza nos dois.
  • Controle do formato. Prompts few-shot costumam usar um delimitador como ### entre os exemplos. Um stop nesse delimitador impede o modelo de escrever o próximo exemplo por conta própria.
  • Limites. Uma sequência de parada não molda o que vem antes do corte. Para saídas legíveis por máquina, a saída estruturada é a ferramenta mais forte. Mantenha max_tokens como teto rígido.

Na BroadNet Inference

A referência da API da BroadNet não documenta stop. Teste antes de depender dele: envie um prompt que deveria chegar ao seu marcador e veja se a resposta termina ali. Como alternativa, corte o texto no cliente no primeiro marcador; em um stream, você também pode fechar o reader assim que o marcador aparecer. Os modelos de raciocínio da BroadNet (DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B) pensam antes de responder, então teste se uma string de parada pode ser encontrada dentro do raciocínio. O passo a passo da migração lista outros campos da OpenAI para conferir.

Erros comuns

  • Escolher uma string de parada que pode aparecer na saída normal, como uma quebra de linha ou uma palavra comum.
  • Presumir que a string de parada volta na resposta e procurá-la no parsing.

Perguntas frequentes

Quantas sequências de parada posso enviar?

A referência da OpenAI permite até 4 sequências em stop. Outros provedores definem seus próprios limites, então confira a referência de cada um.

A sequência de parada aparece na resposta?

Em geral, não. A documentação do vLLM diz que a saída retornada exclui a string de parada. A Anthropic informa qual sequência foi acionada em um campo separado, stop_sequence.

A BroadNet Inference suporta stop?

A referência da API da BroadNet não documenta stop. Teste no seu modelo antes de depender dele e mantenha um corte no lado do cliente como reserva.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity