BroadRouter

Chaîne de pensée (chain-of-thought, CoT)

Mis à jour

La chaîne de pensée (chain-of-thought, CoT) est une technique de prompting dans laquelle on montre à un modèle de langage, ou on lui demande d’écrire, des étapes de raisonnement intermédiaires avant sa réponse finale. Elle améliore la précision sur les problèmes à plusieurs étapes comme l’arithmétique et la logique, et les modèles de raisonnement la génèrent désormais automatiquement.

Aussi appelé : chaîne de pensée, CoT, prompting en chaîne de pensée, raisonnement étape par étape, chain-of-thought, chain-of-thought prompting, step-by-step prompting, CoT prompting

La chaîne de pensée a commencé comme une astuce de prompt avant de devenir une fonction des modèles.

Comment ça marche

Wei et ses collègues ont publié la méthode en 2022. Au lieu d’exemples few-shot montrant seulement la question et la réponse, ils ont écrit des exemples montrant les étapes intermédiaires. Avec huit exemples de ce type, un modèle de 540 milliards de paramètres a atteint une précision état de l’art sur GSM8K, un ensemble de problèmes de mathématiques de niveau école primaire, devant un GPT-3 affiné avec un vérificateur. Ils ont testé le raisonnement arithmétique, de sens commun et symbolique.

Un exemple de chaîne de pensée dans un prompt :

Q: A shop has 23 apples. It uses 20 and buys 6 more. How many are left?
A: It starts with 23. After using 20 it has 3. After buying 6 it has 9. The answer is 9.

Écrire les étapes donne au modèle plus de tokens de calcul avant qu’il ne s’engage sur une réponse, et chaque étape conditionne la suivante. C’est une forme de prompting few-shot où les exemples enseignent une méthode, pas seulement un format.

Comment les modèles de raisonnement l’intègrent

Les modèles de raisonnement sont entraînés à produire eux-mêmes ce texte étape par étape. Le guide d’OpenAI indique qu’ils « use internal reasoning tokens before producing a response » (traduction : « utilisent des tokens de raisonnement internes avant de produire une réponse »), et que ces tokens ne sont pas visibles via son API mais occupent tout de même le contexte et sont facturés comme de la sortie. Certains modèles ouverts renvoient plutôt le raisonnement dans un champ séparé. Voir tokens de raisonnement pour leur décompte.

Pourquoi c’est important

  • Précision. Les tâches à plusieurs étapes, comme les mathématiques, la planification et la correction de code, en profitent le plus. Les simples recherches d’information y gagnent peu.
  • Coût et latence. Chaque étape est un token de sortie. Une longue chaîne peut coûter plus cher que la réponse.
  • Pas une preuve. Des étapes écrites peuvent sembler solides et être fausses : elles n’empêchent pas les hallucinations.

Sur BroadNet Inference

La documentation de BroadNet indique que DeepSeek V4.1 Flash, GLM 5.3 et Qwen3.8 27B raisonnent avant de répondre, et que le raisonnement compte dans max_tokens. Prévoyez 1 000 tokens ou plus, ou réglez reasoning_effort sur low ; avec une limite trop basse, la réponse peut revenir vide. Lorsqu’il est renseigné, usage.completion_tokens_details.reasoning_tokens indique combien ont été utilisés. La documentation ne classe pas BroadNet Gemma 4 VL 26B parmi les modèles de raisonnement : le prompting classique en chaîne de pensée est donc la façon de lui demander des étapes. Le guide des réponses vides et l’article sur le coût des tokens de raisonnement traitent de la gestion du budget.

Questions fréquentes

La chaîne de pensée, est-ce la même chose que les tokens de raisonnement ?

C’est lié, mais différent. La chaîne de pensée est la technique qui consiste à écrire les étapes. Les tokens de raisonnement sont ce qu’un modèle de raisonnement génère lorsqu’il le fait en interne, et ils sont facturés comme de la sortie.

Faut-il écrire « réfléchis étape par étape » à un modèle de raisonnement ?

C’est généralement inutile. Les modèles de raisonnement réfléchissent déjà avant de répondre. Le guide d’OpenAI conseille de leur donner un objectif clair et des contraintes plutôt que de prescrire chaque étape.

La chaîne de pensée coûte-t-elle plus cher ?

Oui. Les étapes sont des tokens de sortie, en général les tokens les plus chers, et elles ajoutent de la latence.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity