Les modèles de raisonnement réfléchissent avant de répondre. Cette réflexion est aussi du texte : elle coûte des tokens, du temps et de la place dans la fenêtre de contexte.
Comment ça marche
Un modèle de raisonnement génère une chaîne de pensée interne, puis la réponse visible. Les deux puisent dans le même budget de sortie. Le guide d’OpenAI indique que les tokens de raisonnement « are billed as output tokens » (traduction : « sont facturés comme des tokens de sortie ») et occupent de la place dans la fenêtre de contexte ; Anthropic dit la même chose des tokens de thinking et les qualifie de « a subset of your max_tokens » (traduction : « un sous-ensemble de vos max_tokens »).
Dans le format Chat Completions, le décompte apparaît dans usage :
"usage": {
"completion_tokens": 1186,
"completion_tokens_details": { "reasoning_tokens": 1024 }
}
Ici, 1 024 des 1 186 tokens de sortie sont partis dans la réflexion, et seulement 162 dans la réponse. OpenAI prévient qu’une réponse peut atteindre la limite « before any visible output tokens are produced » (traduction : « avant qu’aucun token de sortie visible ne soit produit ») : vous payez alors l’entrée et le raisonnement sans obtenir de réponse. OpenAI suggère de réserver au moins 25 000 tokens au raisonnement et à la sortie quand vous commencez à expérimenter avec ses modèles.
Beaucoup d’API exposent un réglage comme reasoning_effort (low, medium, high) pour échanger de la qualité contre moins de tokens de réflexion.
Pourquoi c’est important
- Coût. Avec une clé facturée au token, le raisonnement est facturé au prix de sortie, en général le tarif le plus élevé. Voir tokens d’entrée et de sortie.
- Latence. La réflexion prend du temps avant le premier token visible. À tokens par seconde constants, 2 000 tokens de raisonnement ajoutent le temps de 2 000 tokens de sortie.
- Fiabilité. Un petit
max_tokensqui fonctionnait sur un modèle sans raisonnement peut renvoyer des réponses vides sur un modèle de raisonnement.
Sur BroadNet Inference
DeepSeek V4.1 Flash, GLM 5.3 et Qwen3.8 27B raisonnent avant de répondre. La documentation de BroadNet indique que le raisonnement est décompté de max_tokens. Elle ne mentionne pas de raisonnement pour BroadNet Gemma 4 VL 26B.
Quand le modèle le fournit, usage.completion_tokens_details.reasoning_tokens indique la part consacrée à la réflexion. Fixez max_tokens à 1 000 ou plus, ou ne le définissez pas, et utilisez reasoning_effort="low" pour les étapes simples :
client.chat.completions.create(
model="broadnet/deepseek-v4.1-flash",
reasoning_effort="low",
max_tokens=1000,
messages=[{"role": "user", "content": "Classify: 'refund my order'"}],
)
En paiement à l’usage, le raisonnement est facturé au prix de sortie, par exemple $0.52 par million de tokens sur DeepSeek V4.1 Flash. Avec un forfait illimité pour ce modèle, il n’y a pas de compteur de tokens : le raisonnement ne coûte rien de plus, il prend seulement du temps. La liste complète des correctifs se trouve dans pourquoi un modèle de raisonnement renvoie une réponse vide.