BroadRouter
Comenzar

Secuencias de parada (stop sequences)

Actualizado

Las secuencias de parada (stop sequences) son cadenas que usted envía con la solicitud para que el modelo deje de generar en cuanto produzca una de ellas. OpenAI llama al campo stop y acepta hasta 4 secuencias; Anthropic lo llama stop_sequences. Normalmente el texto coincidente no se incluye en la salida devuelta.

También llamado: secuencias de parada, secuencia de parada, secuencias de detención, parámetro stop, stop sequences, stop sequence, stop parameter, stop strings, stop_sequences

A veces usted sabe exactamente dónde debe terminar una respuesta. Una secuencia de parada le indica al servidor que corte la generación ahí, en lugar de pagar por tokens que va a descartar.

Cómo funciona

Usted pasa una o más cadenas. Después de cada nuevo token, el servidor comprueba si la salida ya contiene alguna. Si es así, la generación termina.

{
  "model": "broadnet/gemma-4-26b-a4b",
  "messages": [{"role": "user", "content": "List three fruits, one per line, then write END."}],
  "stop": ["END"]
}

Detalles por proveedor, según las fuentes:

Proveedor Campo Notas
OpenAI Chat Completions stop “Up to 4 sequences” (traducción: hasta 4 secuencias); la referencia aún dice “Not supported with latest reasoning models o3 and o4-mini” (traducción: no se admite con los modelos de razonamiento más recientes, o3 y o4-mini; redacción a 2026-11-16)
Anthropic Messages stop_sequences La respuesta trae stop_reason: "stop_sequence" e indica la coincidencia en stop_sequence
vLLM (servidores de modelos abiertos) stop “String(s) that stop the generation when they are generated” (traducción: cadena o cadenas que detienen la generación cuando se generan); la salida las excluye

En el formato de OpenAI, una secuencia de parada coincidente informa finish_reason stop, el mismo valor que un final natural. Anthropic distingue ambos casos.

Por qué importa

  • Costo y latencia. Los tokens de salida se cobran y son lentos de generar. Detenerse en un marcador conocido ahorra ambas cosas.
  • Control del formato. Los prompts few-shot suelen usar un delimitador como ### entre ejemplos. Una parada en ese delimitador evita que el modelo escriba por su cuenta el siguiente ejemplo.
  • Límites. Una secuencia de parada no puede dar forma a lo que viene antes del corte. Para una salida legible por máquina, la salida estructurada es la herramienta más sólida. Mantenga max_tokens como techo firme.

En BroadNet Inference

La referencia de la API de BroadNet no documenta stop. Pruébelo antes de depender de él: envíe un prompt que deba llegar a su marcador y compruebe si la respuesta termina ahí. Como respaldo, corte el texto en su cliente en el primer marcador; en un stream también puede cerrar el lector en cuanto aparezca el marcador. Los modelos de razonamiento de BroadNet (DeepSeek V4.1 Flash, GLM 5.3 y Qwen3.8 27B) piensan antes de responder, así que compruebe si una cadena de parada puede coincidir dentro del razonamiento. El recorrido de migración con código enumera otros campos de OpenAI que conviene revisar.

Errores comunes

  • Elegir una cadena de parada que puede aparecer en la salida normal, como un salto de línea o una palabra común.
  • Suponer que la cadena de parada vuelve en la respuesta y buscarla al procesarla.

Preguntas frecuentes

¿Cuántas secuencias de parada puedo enviar?

La referencia de OpenAI permite hasta 4 secuencias en stop. Otros proveedores fijan sus propios límites, así que consulte su referencia.

¿La secuencia de parada se incluye en la respuesta?

Normalmente no. La documentación de vLLM indica que la salida devuelta excluye la cadena de parada. Anthropic devuelve qué secuencia se activó en un campo aparte, stop_sequence.

¿BroadNet Inference admite stop?

La referencia de la API de BroadNet no documenta stop. Pruébelo con su modelo antes de depender de él y mantenga un corte en el cliente como respaldo.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity