ریزننگ ماڈلز جواب دینے سے پہلے سوچتے ہیں۔ یہ سوچنا بھی متن ہی ہے، اس لیے اس پر ٹوکن، وقت اور کانٹیکسٹ ونڈو کی جگہ لگتی ہے۔
یہ کیسے کام کرتا ہے
ریزننگ ماڈل پہلے اندرونی chain of thought بناتا ہے، پھر نظر آنے والا جواب۔ دونوں ایک ہی آؤٹ پٹ بجٹ سے آتے ہیں۔ OpenAI کی گائیڈ کہتی ہے کہ ریزننگ ٹوکن “are billed as output tokens” (ترجمہ: آؤٹ پٹ ٹوکنز کے طور پر بل ہوتے ہیں) اور کانٹیکسٹ ونڈو میں جگہ گھیرتے ہیں؛ Anthropic، thinking ٹوکنز کے بارے میں یہی کہتا ہے اور انہیں “a subset of your max_tokens” (ترجمہ: آپ کے max_tokens کا ایک حصہ) کہتا ہے۔
Chat Completions فارمیٹ میں گنتی usage میں نظر آتی ہے:
"usage": {
"completion_tokens": 1186,
"completion_tokens_details": { "reasoning_tokens": 1024 }
}
یہاں 1,186 آؤٹ پٹ ٹوکنز میں سے 1,024 سوچنے پر گئے، اور جواب کو صرف 162 ملے۔ OpenAI خبردار کرتا ہے کہ ریسپانس “before any visible output tokens are produced” (ترجمہ: کوئی بھی نظر آنے والا آؤٹ پٹ ٹوکن بننے سے پہلے) حد تک پہنچ سکتا ہے، یعنی آپ ان پٹ اور ریزننگ کی قیمت دیتے ہیں اور جواب نہیں ملتا۔ وہ تجویز کرتا ہے کہ اس کے ماڈلز کے ساتھ تجربات شروع کرتے وقت ریزننگ اور آؤٹ پٹ کے لیے کم از کم 25,000 ٹوکن رکھیں۔
کئی API reasoning_effort (low، medium، high) جیسا کنٹرول دیتے ہیں، تاکہ کم تھنکنگ ٹوکنز کے بدلے معیار میں سمجھوتا کیا جا سکے۔
یہ کیوں اہم ہے
- لاگت۔ فی ٹوکن کلید پر ریزننگ کا بل آؤٹ پٹ قیمت پر بنتا ہے، جو عموماً سب سے اونچی شرح ہے۔ دیکھیں ان پٹ اور آؤٹ پٹ ٹوکن۔
- تاخیر۔ پہلے نظر آنے والے ٹوکن سے پہلے سوچنے میں وقت لگتا ہے۔ مقررہ فی سیکنڈ ٹوکنز پر 2,000 ریزننگ ٹوکن، 2,000 آؤٹ پٹ ٹوکنز جتنا وقت بڑھا دیتے ہیں۔
- بھروسا۔ جو چھوٹا
max_tokensبغیر ریزننگ والے ماڈل پر چلتا تھا، وہ ریزننگ ماڈل پر خالی جواب دے سکتا ہے۔
BroadNet Inference پر
DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B جواب دینے سے پہلے ریزننگ کرتے ہیں۔ BroadNet کی دستاویزات کہتی ہیں کہ ریزننگ max_tokens میں شمار ہوتی ہے۔ BroadNet کی دستاویزات BroadNet Gemma 4 VL 26B کے لیے ریزننگ درج نہیں کرتیں۔
جب ماڈل اسے رپورٹ کرے تو usage.completion_tokens_details.reasoning_tokens سوچنے کا حصہ دکھاتا ہے۔ max_tokens کو 1,000 یا زیادہ رکھیں، یا سیٹ ہی نہ کریں، اور آسان مراحل کے لیے reasoning_effort="low" استعمال کریں:
client.chat.completions.create(
model="broadnet/deepseek-v4.1-flash",
reasoning_effort="low",
max_tokens=1000,
messages=[{"role": "user", "content": "Classify: 'refund my order'"}],
)
استعمال کے مطابق ادائیگی میں ریزننگ کا بل آؤٹ پٹ قیمت پر بنتا ہے، مثلاً DeepSeek V4.1 Flash پر فی دس لاکھ ٹوکن $0.52۔ اسی ماڈل کے لامحدود پلان پر کوئی ٹوکن میٹر نہیں، اس لیے ریزننگ کا کوئی اضافی خرچ نہیں؛ بس وقت لگتا ہے۔ حل کی مکمل فہرست ریزننگ ماڈل خالی جواب کیوں دیتا ہے میں ہے۔