La chaîne de pensée a commencé comme une astuce de prompt avant de devenir une fonction des modèles.
Comment ça marche
Wei et ses collègues ont publié la méthode en 2022. Au lieu d’exemples few-shot montrant seulement la question et la réponse, ils ont écrit des exemples montrant les étapes intermédiaires. Avec huit exemples de ce type, un modèle de 540 milliards de paramètres a atteint une précision état de l’art sur GSM8K, un ensemble de problèmes de mathématiques de niveau école primaire, devant un GPT-3 affiné avec un vérificateur. Ils ont testé le raisonnement arithmétique, de sens commun et symbolique.
Un exemple de chaîne de pensée dans un prompt :
Q: A shop has 23 apples. It uses 20 and buys 6 more. How many are left?
A: It starts with 23. After using 20 it has 3. After buying 6 it has 9. The answer is 9.
Écrire les étapes donne au modèle plus de tokens de calcul avant qu’il ne s’engage sur une réponse, et chaque étape conditionne la suivante. C’est une forme de prompting few-shot où les exemples enseignent une méthode, pas seulement un format.
Comment les modèles de raisonnement l’intègrent
Les modèles de raisonnement sont entraînés à produire eux-mêmes ce texte étape par étape. Le guide d’OpenAI indique qu’ils « use internal reasoning tokens before producing a response » (traduction : « utilisent des tokens de raisonnement internes avant de produire une réponse »), et que ces tokens ne sont pas visibles via son API mais occupent tout de même le contexte et sont facturés comme de la sortie. Certains modèles ouverts renvoient plutôt le raisonnement dans un champ séparé. Voir tokens de raisonnement pour leur décompte.
Pourquoi c’est important
- Précision. Les tâches à plusieurs étapes, comme les mathématiques, la planification et la correction de code, en profitent le plus. Les simples recherches d’information y gagnent peu.
- Coût et latence. Chaque étape est un token de sortie. Une longue chaîne peut coûter plus cher que la réponse.
- Pas une preuve. Des étapes écrites peuvent sembler solides et être fausses : elles n’empêchent pas les hallucinations.
Sur BroadNet Inference
La documentation de BroadNet indique que DeepSeek V4.1 Flash, GLM 5.3 et Qwen3.8 27B raisonnent avant de répondre, et que le raisonnement compte dans max_tokens. Prévoyez 1 000 tokens ou plus, ou réglez reasoning_effort sur low ; avec une limite trop basse, la réponse peut revenir vide. Lorsqu’il est renseigné, usage.completion_tokens_details.reasoning_tokens indique combien ont été utilisés. La documentation ne classe pas BroadNet Gemma 4 VL 26B parmi les modèles de raisonnement : le prompting classique en chaîne de pensée est donc la façon de lui demander des étapes. Le guide des réponses vides et l’article sur le coût des tokens de raisonnement traitent de la gestion du budget.