Los modelos de razonamiento piensan antes de responder. Ese pensamiento también es texto, así que cuesta tokens, tiempo y espacio en la ventana de contexto.
Cómo funciona
Un modelo de razonamiento genera una cadena de pensamiento interna y luego la respuesta visible. Ambas salen del mismo presupuesto de salida. La guía de OpenAI dice que los tokens de razonamiento “are billed as output tokens” (traducción: se facturan como tokens de salida) y ocupan espacio en la ventana de contexto; Anthropic dice lo mismo de los tokens de thinking y los llama “a subset of your max_tokens” (traducción: una parte de su max_tokens).
En el formato de Chat Completions, el conteo aparece en usage:
"usage": {
"completion_tokens": 1186,
"completion_tokens_details": { "reasoning_tokens": 1024 }
}
Aquí, 1,024 de 1,186 tokens de salida se fueron en pensar, y solo 162 en la respuesta. OpenAI advierte que una respuesta puede llegar al límite “before any visible output tokens are produced” (traducción: antes de que se produzca ningún token de salida visible), así que usted paga la entrada y el razonamiento y no recibe respuesta. Sugiere reservar al menos 25,000 tokens para el razonamiento y la salida cuando empiece a experimentar con sus modelos.
Muchas APIs ofrecen un control como reasoning_effort (low, medium, high) para cambiar calidad por menos tokens de pensamiento.
Por qué importa
- Costo. En una clave por token, el razonamiento se cobra al precio de salida, normalmente la tarifa más alta. Consulte tokens de entrada y de salida.
- Latencia. Pensar toma tiempo antes del primer token visible. A una velocidad fija de tokens por segundo, 2,000 tokens de razonamiento suman el tiempo de 2,000 tokens de salida.
- Fiabilidad. Un
max_tokensbajo que funcionaba en un modelo sin razonamiento puede devolver respuestas vacías en uno con razonamiento.
En BroadNet Inference
DeepSeek V4.1 Flash, GLM 5.3 y Qwen3.8 27B razonan antes de responder. La documentación de BroadNet indica que el razonamiento cuenta para max_tokens. La documentación de BroadNet no incluye razonamiento para BroadNet Gemma 4 VL 26B.
Cuando el modelo lo informa, usage.completion_tokens_details.reasoning_tokens muestra la parte dedicada a pensar. Configure max_tokens en 1,000 o más, o déjelo sin definir, y use reasoning_effort="low" para pasos simples:
client.chat.completions.create(
model="broadnet/deepseek-v4.1-flash",
reasoning_effort="low",
max_tokens=1000,
messages=[{"role": "user", "content": "Classify: 'refund my order'"}],
)
En el pago por uso, el razonamiento se cobra al precio de salida, por ejemplo $0.52 por millón de tokens en DeepSeek V4.1 Flash. En un plan ilimitado de ese modelo no hay medidor de tokens, así que el razonamiento no cuesta nada extra; solo toma tiempo. La lista completa de soluciones está en por qué un modelo de razonamiento devuelve una respuesta vacía.