Modelos de raciocínio pensam antes de responder. Esse pensamento também é texto, então custa tokens, tempo e espaço na janela de contexto.
Como funciona
Um modelo de raciocínio gera uma cadeia de pensamento interna e depois a resposta visível. As duas saem do mesmo orçamento de saída. O guia da OpenAI diz que os tokens de raciocínio “are billed as output tokens” (tradução: são cobrados como tokens de saída) e ocupam espaço na janela de contexto; a Anthropic diz o mesmo dos tokens de thinking e os chama de “a subset of your max_tokens” (tradução: um subconjunto do seu max_tokens).
No formato Chat Completions, a contagem aparece no usage:
"usage": {
"completion_tokens": 1186,
"completion_tokens_details": { "reasoning_tokens": 1024 }
}
Aqui, 1.024 dos 1.186 tokens de saída foram para o pensamento, e só 162 para a resposta. A OpenAI avisa que uma resposta pode atingir o limite “before any visible output tokens are produced” (tradução: antes que qualquer token de saída visível seja produzido), e aí você paga a entrada e o raciocínio e não recebe resposta. Ela sugere reservar pelo menos 25.000 tokens para raciocínio e saída quando você começar a experimentar os modelos dela.
Muitas APIs oferecem um controle como reasoning_effort (low, medium, high) para trocar um pouco de qualidade por menos tokens de pensamento.
Por que importa
- Custo. Em uma chave cobrada por token, o raciocínio é cobrado pelo preço de saída, normalmente a tarifa mais alta. Veja tokens de entrada e de saída.
- Latência. Pensar leva tempo antes do primeiro token visível. Com tokens por segundo fixos, 2.000 tokens de raciocínio acrescentam o tempo de 2.000 tokens de saída.
- Confiabilidade. Um
max_tokenspequeno que funcionava em um modelo sem raciocínio pode retornar respostas vazias em um modelo que raciocina.
Na BroadNet Inference
DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B raciocinam antes de responder. A documentação da BroadNet diz que o raciocínio conta para max_tokens. A documentação da BroadNet não lista raciocínio para o BroadNet Gemma 4 VL 26B.
Quando o modelo informa, usage.completion_tokens_details.reasoning_tokens mostra a parte de pensamento. Defina max_tokens como 1.000 ou mais, ou deixe-o sem definir, e use reasoning_effort="low" em etapas simples:
client.chat.completions.create(
model="broadnet/deepseek-v4.1-flash",
reasoning_effort="low",
max_tokens=1000,
messages=[{"role": "user", "content": "Classify: 'refund my order'"}],
)
No pagamento por uso, o raciocínio é cobrado pelo preço de saída, por exemplo $0.52 por 1M de tokens no DeepSeek V4.1 Flash. Em um plano ilimitado desse modelo não há medidor de tokens, então o raciocínio não custa nada a mais; só leva tempo. A lista completa de correções está em por que um modelo de raciocínio retorna uma resposta vazia.