BroadRouter

ریزننگ ٹوکن (reasoning tokens)

اپ ڈیٹ

ریزننگ ٹوکن وہ ٹوکن ہیں جو ریزننگ ماڈل اپنا نظر آنے والا جواب لکھنے سے پہلے مسئلہ حل کرنے کے لیے بناتا ہے۔ ان کا بل عموماً آؤٹ پٹ ٹوکنز کی طرح بنتا ہے، یہ آؤٹ پٹ کی حد اور کانٹیکسٹ ونڈو میں شمار ہوتے ہیں، اور API انہیں چھپا سکتا ہے یا ان کا خلاصہ دے سکتا ہے۔

دوسرے نام: ریزننگ ٹوکن، تھنکنگ ٹوکن، reasoning tokens kya hain، reasoning tokens، thinking tokens، chain-of-thought tokens، reasoning effort، extended thinking

ریزننگ ماڈلز جواب دینے سے پہلے سوچتے ہیں۔ یہ سوچنا بھی متن ہی ہے، اس لیے اس پر ٹوکن، وقت اور کانٹیکسٹ ونڈو کی جگہ لگتی ہے۔

یہ کیسے کام کرتا ہے

ریزننگ ماڈل پہلے اندرونی chain of thought بناتا ہے، پھر نظر آنے والا جواب۔ دونوں ایک ہی آؤٹ پٹ بجٹ سے آتے ہیں۔ OpenAI کی گائیڈ کہتی ہے کہ ریزننگ ٹوکن “are billed as output tokens” (ترجمہ: آؤٹ پٹ ٹوکنز کے طور پر بل ہوتے ہیں) اور کانٹیکسٹ ونڈو میں جگہ گھیرتے ہیں؛ Anthropic، thinking ٹوکنز کے بارے میں یہی کہتا ہے اور انہیں “a subset of your max_tokens” (ترجمہ: آپ کے max_tokens کا ایک حصہ) کہتا ہے۔

Chat Completions فارمیٹ میں گنتی usage میں نظر آتی ہے:

"usage": {
  "completion_tokens": 1186,
  "completion_tokens_details": { "reasoning_tokens": 1024 }
}

یہاں 1,186 آؤٹ پٹ ٹوکنز میں سے 1,024 سوچنے پر گئے، اور جواب کو صرف 162 ملے۔ OpenAI خبردار کرتا ہے کہ ریسپانس “before any visible output tokens are produced” (ترجمہ: کوئی بھی نظر آنے والا آؤٹ پٹ ٹوکن بننے سے پہلے) حد تک پہنچ سکتا ہے، یعنی آپ ان پٹ اور ریزننگ کی قیمت دیتے ہیں اور جواب نہیں ملتا۔ وہ تجویز کرتا ہے کہ اس کے ماڈلز کے ساتھ تجربات شروع کرتے وقت ریزننگ اور آؤٹ پٹ کے لیے کم از کم 25,000 ٹوکن رکھیں۔

کئی API reasoning_effort (low، medium، high) جیسا کنٹرول دیتے ہیں، تاکہ کم تھنکنگ ٹوکنز کے بدلے معیار میں سمجھوتا کیا جا سکے۔

یہ کیوں اہم ہے

  • لاگت۔ فی ٹوکن کلید پر ریزننگ کا بل آؤٹ پٹ قیمت پر بنتا ہے، جو عموماً سب سے اونچی شرح ہے۔ دیکھیں ان پٹ اور آؤٹ پٹ ٹوکن۔
  • تاخیر۔ پہلے نظر آنے والے ٹوکن سے پہلے سوچنے میں وقت لگتا ہے۔ مقررہ فی سیکنڈ ٹوکنز پر 2,000 ریزننگ ٹوکن، 2,000 آؤٹ پٹ ٹوکنز جتنا وقت بڑھا دیتے ہیں۔
  • بھروسا۔ جو چھوٹا max_tokens بغیر ریزننگ والے ماڈل پر چلتا تھا، وہ ریزننگ ماڈل پر خالی جواب دے سکتا ہے۔

BroadNet Inference پر

DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B جواب دینے سے پہلے ریزننگ کرتے ہیں۔ BroadNet کی دستاویزات کہتی ہیں کہ ریزننگ max_tokens میں شمار ہوتی ہے۔ BroadNet کی دستاویزات BroadNet Gemma 4 VL 26B کے لیے ریزننگ درج نہیں کرتیں۔

جب ماڈل اسے رپورٹ کرے تو usage.completion_tokens_details.reasoning_tokens سوچنے کا حصہ دکھاتا ہے۔ max_tokens کو 1,000 یا زیادہ رکھیں، یا سیٹ ہی نہ کریں، اور آسان مراحل کے لیے reasoning_effort="low" استعمال کریں:

client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    reasoning_effort="low",
    max_tokens=1000,
    messages=[{"role": "user", "content": "Classify: 'refund my order'"}],
)

استعمال کے مطابق ادائیگی میں ریزننگ کا بل آؤٹ پٹ قیمت پر بنتا ہے، مثلاً DeepSeek V4.1 Flash پر فی دس لاکھ ٹوکن $0.52۔ اسی ماڈل کے لامحدود پلان پر کوئی ٹوکن میٹر نہیں، اس لیے ریزننگ کا کوئی اضافی خرچ نہیں؛ بس وقت لگتا ہے۔ حل کی مکمل فہرست ریزننگ ماڈل خالی جواب کیوں دیتا ہے میں ہے۔

عام سوالات

کیا میں ریزننگ ٹوکن دیکھ سکتا ہوں؟

یہ API پر منحصر ہے۔ OpenAI کہتا ہے کہ ریزننگ ٹوکن اس کے API میں نظر نہیں آتے، لیکن ان کا خلاصہ مل سکتا ہے۔ دوسرے فراہم کنندگان ریزننگ کا کچھ حصہ یا پوری ریزننگ ایک الگ فیلڈ میں لوٹاتے ہیں۔ دونوں صورتوں میں بل ان کا بنتا ہے۔

ریزننگ ٹوکن کیسے کم کریں؟

آسان کاموں کے لیے کم reasoning effort سیٹنگ استعمال کریں، جیسے reasoning_effort کو low پر، جہاں ماڈل اسے سپورٹ کرتا ہو۔ واضح اور مخصوص پرامپٹس بھی مدد کرتے ہیں۔

ریزننگ ماڈل سے مجھے خالی جواب کیوں ملا؟

غالباً ماڈل نے پورا آؤٹ پٹ بجٹ ریزننگ پر خرچ کر دیا۔ تب finish_reason کی قدر length ہوتی ہے۔ max_tokens بڑھائیں یا reasoning effort کم کریں۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں