Usted envía un prompt corto con max_tokens: 100, la solicitud tiene éxito y choices[0].message.content llega vacío. No hay nada roto: la respuesta nunca empezó.
Qué ocurre
Los modelos de razonamiento escriben una cadena de pensamiento oculta antes de la respuesta visible, y ambas comparten un mismo presupuesto de max_tokens. Con un límite pequeño, el razonamiento lo consume entero, y en el formato estándar de chat completions finish_reason es entonces length.
Tres soluciones
1. Deje margen. Ponga max_tokens en 1,000 o más, como aconseja la documentación de BroadNet. La calculadora de max_tokens para modelos de razonamiento dimensiona el límite según la longitud de su respuesta y muestra el costo.
2. Razone menos. Ponga reasoning_effort en low para tareas simples:
import os
from openai import OpenAI
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
response = client.chat.completions.create(
model="broadnet/deepseek-v4.1-flash",
reasoning_effort="low",
max_tokens=1000,
messages=[{"role": "user", "content": "Classify: 'refund my order' -> intent?"}],
)
3. Vigile el consumo. Cuando el modelo lo reporta, usage.completion_tokens_details.reasoning_tokens muestra cuánto se fue en razonamiento:
print(response.choices[0].finish_reason) # "length" means the budget ran out
details = response.usage.completion_tokens_details # None if the model doesn't report it
print(details.reasoning_tokens if details else "not reported")
En streaming, agregue stream_options={"include_usage": True} y el mismo consumo llega en el último fragmento. Consulte streaming de chat completions.
Qué modelos razonan
| Modelo | Razona primero |
|---|---|
DeepSeek V4.1 Flash (broadnet/deepseek-v4.1-flash) |
Sí |
GLM 5.3 (broadnet/glm-5.3) |
Sí |
Qwen3.8 27B (broadnet/qwen3.8-27b) |
Sí |
BroadNet Gemma 4 VL 26B (broadnet/gemma-4-26b-a4b) |
No indicado |
Solución de problemas
contentvacío yfinish_reasoneslength. Subamax_tokenso pongareasoning_effortenlow.contentvacío yfinish_reasonesstop. El límite no fue la causa. Revise su prompt e imprima la respuesta completa para ver qué llegó.AttributeErrorencompletion_tokens_details. El modelo no reportó el desglose en esa solicitud; compruebe si esNone, como en el ejemplo anterior.- El primer token tarda en un stream. El modelo está razonando antes de escribir la respuesta. Un
reasoning_effortmás bajo puede acortar la espera.
Si ejecuta agentes todo el día, los tokens de razonamiento se acumulan en pago por uso. La calculadora de precios de BroadNet muestra cuándo un plan ilimitado de tarifa plana cuesta menos.
