Chain-of-thought एक प्रॉम्प्ट ट्रिक के रूप में शुरू हुआ और मॉडल का फ़ीचर बन गया।
यह कैसे काम करता है
Wei और साथियों ने यह तरीक़ा 2022 में प्रकाशित किया। सिर्फ़ सवाल और जवाब दिखाने वाले few-shot उदाहरणों के बजाय उन्होंने ऐसे उदाहरण लिखे जो बीच के चरण दिखाते थे। ऐसे आठ उदाहरणों के साथ 540 अरब पैरामीटर वाले एक मॉडल ने GSM8K पर, जो स्कूली गणित के शब्द-प्रश्नों का सेट है, state-of-the-art सटीकता हासिल की, और verifier वाले fine-tuned GPT-3 से आगे निकला। उन्होंने अंकगणित, सामान्य समझ (commonsense) और symbolic रीज़निंग टेस्ट की।
प्रॉम्प्ट में chain-of-thought का एक उदाहरण:
Q: A shop has 23 apples. It uses 20 and buys 6 more. How many are left?
A: It starts with 23. After using 20 it has 3. After buying 6 it has 9. The answer is 9.
चरण लिखने से मॉडल को जवाब तय करने से पहले गणना के लिए ज़्यादा टोकन मिलते हैं, और हर चरण अगले को दिशा देता है। यह few-shot प्रॉम्प्टिंग का एक रूप है, जिसमें उदाहरण सिर्फ़ फ़ॉर्मैट नहीं, तरीक़ा सिखाते हैं।
रीज़निंग मॉडल इसे अपने अंदर कैसे ले आए
रीज़निंग मॉडल यह क़दम-दर-क़दम टेक्स्ट ख़ुद बनाने के लिए ट्रेन किए जाते हैं। OpenAI की गाइड कहती है कि वे “use internal reasoning tokens before producing a response” (अनुवाद: जवाब बनाने से पहले अंदरूनी रीज़निंग टोकन इस्तेमाल करते हैं), और ये टोकन उसके API में दिखते नहीं, फिर भी कॉन्टेक्स्ट लेते हैं और आउटपुट के रूप में बिल होते हैं। कुछ ओपन मॉडल रीज़निंग को एक अलग फ़ील्ड में लौटाते हैं। ये कैसे गिने जाते हैं, इसके लिए रीज़निंग टोकन देखें।
यह क्यों मायने रखता है
- सटीकता। गणित, प्लानिंग और कोड सुधार जैसे कई-चरण वाले टास्क को सबसे ज़्यादा फ़ायदा होता है। सीधे लुकअप को कम।
- लागत और latency। हर चरण एक आउटपुट टोकन है। लंबी चेन जवाब से ज़्यादा महँगी पड़ सकती है।
- सबूत नहीं। लिखे हुए चरण सही दिख सकते हैं और फिर भी ग़लत हो सकते हैं, इसलिए वे हैलुसिनेशन नहीं रोकते।
BroadNet Inference पर
BroadNet के डॉक्स कहते हैं कि DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B जवाब से पहले रीज़न करते हैं, और रीज़निंग max_tokens में गिनी जाती है। 1,000 या उससे ज़्यादा टोकन छोड़ें, या reasoning_effort को low करें; छोटी लिमिट पर जवाब ख़ाली आ सकता है। जब रिपोर्ट हो, तो usage.completion_tokens_details.reasoning_tokens बताता है कि कितने इस्तेमाल हुए। डॉक्स BroadNet Gemma 4 VL 26B को रीज़निंग मॉडल के रूप में दर्ज नहीं करते, इसलिए उससे चरण माँगने का तरीक़ा क्लासिक chain-of-thought प्रॉम्प्टिंग है। ख़ाली जवाब गाइड और रीज़निंग टोकन लागत वाली पोस्ट बजट बनाना समझाती हैं।